9 основ ИИ за 1 день

Не нужно проходить десять курсов, чтобы перестать путаться в ИИ. За один вечер можно разобрать девять терминов, которые объясняют, как модель читает запрос, находит данные и вызывает внешние сервисы.

Как пройти материал

Открыть сайт-календарь ai-advent-calendar.replit.app. Регистрация не нужна; адрес указан текстом, потому что сайт не открылся через проверку ссылок.
Идти по окнам в порядке этого списка: каждое следующее понятие опирается на предыдущее.
После каждого окна объяснить термин своими словами в одном предложении.
Не получилось объяснить без подсказки - вернуться к метафоре и бытовому примеру.

Девять основ

1. Модель

Модель научилась находить закономерности и выдавать результат: текст, картинку, звук или код. Модели отличаются скоростью, ценой, размером и тем, с какими данными умеют работать.

Сравнить две модели на одной задаче, а не искать одну «лучшую на всё».
Запомнить: маленькая быстрая модель подходит для сортировки заявок, большая - для планирования и анализа.

2. Инференс

Инференс - момент, когда уже обученная модель получает запрос и генерирует ответ. Обучение происходит заранее, а инференс - каждый раз, когда ты отправляешь сообщение.

Не путать обучение модели с её ответом на текущий запрос.
Представить так: обучение - репетиция, инференс - выступление.

3. Токены

Токены - небольшие кусочки текста: слово, часть слова, пробел или знак препинания. Ими считаются лимиты, цена и объём ответа.

Проверить, сколько токенов помещается в выбранную модель.
Помнить, что длинные документы и история чата занимают место в контексте.

4. Контекстное окно

Контекстное окно - весь текст, который модель может учитывать в одной работе: запрос, историю, инструкции, файлы и свой ответ.

Перед длинной задачей собрать важные решения в короткую сводку.
Если модель забыла начало чата, открыть новый диалог и приложить эту сводку.

5. Эмбеддинги

Эмбеддинги превращают текст, картинку или другие данные в числа, которые хранят смысл. Похожие по смыслу вещи оказываются рядом.

Представить эмбеддинги как карту, где у смысла есть адрес.
Понять, почему сервис может рекомендовать похожий товар, статью или песню без совпадения слов.

6. Семантический поиск

Семантический поиск ищет по смыслу, а не по буквальному совпадению слов. Поэтому запрос «куртка от дождя для велосипеда» может найти «непромокаемую ветровку».

Использовать его для поиска по базе знаний, заметкам и документам проекта.
Проверять, какие именно фрагменты нашёл поиск: хороший поиск не отменяет проверку источника.

7. RAG

RAG сначала находит подходящие фрагменты в проверенных документах, добавляет их в запрос и только потом формирует ответ.

Задать вопрос по своей папке с регламентами или инструкциями.
Попросить ответить только по найденным фрагментам и назвать источник каждого вывода.
Запомнить цепочку: найти -> отобрать фрагменты -> ответить с опорой на них.

8. Вызов инструментов

Вызов инструментов - это когда модель просит внешнюю программу выполнить действие с конкретными параметрами: открыть календарь, найти документ или создать запись.

Передать модели доступ только к нужному сервису и только на время задачи.
Для необратимых действий добавить правило: сначала показать план, затем ждать подтверждение.

9. MCP

MCP - общий протокол, по которому ИИ-приложение узнаёт о внешних данных и инструментах. Вызов инструмента - действие; MCP - общий способ подключать такие действия.

Различать «модель вызвала календарь» и «календарь подключён через MCP».
Не подключать незнакомый MCP-сервер к рабочим данным без проверки владельца и разрешений.

Проверка в конце дня

Объяснить разницу между обучением и инференсом одной фразой.
Объяснить, почему обычный чат отвечает по памяти, а RAG - по приложенным документам.
Различать токены и контекстное окно.
Различать вызов инструмента и MCP.