НТО Junior · «Технологии и искусственный интеллект»

Введение в нейросети

Введение в мир ИИ

Искусственный интеллект

Алгоритмы, имитирующие человеческий интеллект

Машинное обучение

Учится на данных, находит закономерности

Нейронные сети

Модель, имитирующая работу мозга

Глубокое обучение

Большие нейросети на больших данных

Семейство технологий ИИ
Нейросети — подмножество машинного обучения, а глубокое обучение — подмножество нейросетей

Машинное обучение и нейросети

КритерийМашинное обучениеНейросети
Тип задачЯвные закономерности: цифры, таблицы, логикаСкрытые паттерны: изображения, звуки, сложные данные
ПримерПрогноз уровня воды по температуре и осадкамОпределение вида рыбы по пятнам на плавниках
ОбъяснимостьДа: «если осадков много и тепло — воды больше»Нет: человек узнаёт рыбу по фото, машина — по пикселям
АналогияРешать уравнение по формулеУзнавать лицо друга в толпе

Типы данных

Чтобы алгоритмы смогли анализировать информацию, нужно правильно определить тип данных.

Данные делятся на числовые и категориальные
ЧисловыеКатегориальные
ХарактеристикиЕдиницы измерения; целые (1, 2, 3) и дробные (3.14, 0.5)Ограниченное число уникальных значений; текст («да», «нет») или числовые метки
ПримерыВысота дерева, время задачи, количество осадковТип транспорта, цвет глаз, ID студента
Вопрос к даннымМожно ли использовать в расчётах?Можно ли сгруппировать записи?

ID — числа, но используются только как идентификаторы, поэтому это категориальный признак.

Типы задач машинного обучения

Машинное обучение — поиск зависимости между данными: y = f(x), где x — признаки, y — то, что предсказываем.

ТипЧто предсказываемПример для Байкала
С учителем · Классификацияy — категорияОпределение типа растения по характеристикам
С учителем · Регрессияy — числоПрогноз уровня воды по осадкам и сезону
Без учителя · Кластеризациянет yГруппы животных со схожими повадками

Если y известен и используется в обучении — это обучение с учителем, иначе — без учителя.

Линейная регрессия

Для одного признака: y = k·x + b k — наклон прямой, b — сдвиг
Для множества признаков: f(x) = Σ wᵢxᵢ + b wᵢ — веса (важность признака)
Подгонка прямой под данные
Прямая подбирается так, чтобы точки данных лежали к ней как можно ближе

Нейроны

  • Получает параметры xᵢ
  • Веса wᵢ и сдвиг b задают важность
  • Суммирует: z = Σwᵢxᵢ + b
  • Применяет активацию: y = φ(z)
Как работает нейрон
Как «думает» нейрон: взвешенная сумма Σ, затем функция активации φ
Комикс: нейросеть учится различать животных
Нейроны обучаются, запоминая отличия: нерпа, омуль, голомянка

Функции активации

Добавляют нелинейность: без них сеть превратилась бы в обычную линейную регрессию.

Ступенчатая функция

Step

Ступенчатая. Бинарная классификация «да/нет» — например, превышает ли загрязнение норму.

Сигмоида

Sigmoid

Бинарная классификация с вероятностью от 0 до 1 — например, вероятность опасных бактерий.

ReLU

ReLU

Скрытые слои почти всех современных сетей — только положительные значения.

Loss-функции и метрики

Loss — внутри модели

Показывает, насколько модель ошибается; задача — уменьшить ошибку.

  • MSE — квадрат расстояния до факта; MAE — модуль
  • cross-entropy — для классификации

Метрики — для людей

  • Accuracy — доля правильных ответов
  • Precision — доля верных среди «положительных»
  • Recall — какую долю положительных нашли
  • F1 — гармоническое среднее Precision и Recall
Confusion matrix
Confusion matrix: TP, TN, FP, FN — где модель угадала, а где ошиблась

Оптимизатор

Методы поиска минимума ошибки — значений параметров, при которых модель ошибается меньше всего.

Оптимизатор ставит точку в случайном месте графика функции ошибки и, словно на санках, спускается в ближайшую низину.

Один параметр — кривая; два параметра — поверхность. Оптимизатор находит локальный минимум, а не глобальный.

Спуск к минимуму ошибки
Спуск по функции ошибки к локальному минимуму

Рыбный прогноз

Биологи просят заполнить пропуски в данных о голомянке: построим модель, которая угадывает количество рыбок по температуре.

Данные→ Input→ Dense→ Compile→ Fit→ Predict→ Save data

Dense: units=1, activation=linear · loss=MAE · оптимизатор sgd · ≈500 эпох. Результат — result.txt.

Рыбный прогноз: как температура влияет на жизнь голомянки
Как это устроено: данные → модель → предсказания

Материалы

Ресурсы и литература

Литература

  • Л. Литвинцева. «Искусственный интеллект. Беседы со школьником», 2019
  • Д. Лейн. «Машинное обучение для детей», 2023

Онлайн

  • Разборы задач НТО Junior — teletype.in
  • «Введение в ИИ» — ai-academy.ru
  • Программирование на Python — stepik.org
  • Среда для отладки кода — trinket.io/python3

Видеоматериалы курса распространяются в формате .mp4.

Введение в нейросети

Материалы для подготовки к отборочному этапу НТО Junior.