Попробуйте агента в деле: он сам выберет нужный инструмент, выполнит задачу и покажет каждый шаг. Всё работает локально на вашем устройстве или с внешней моделью через API.
Агент получает вопрос, выбирает подходящий инструмент и использует результат для ответа. После запуска можно посмотреть, как именно он это сделал.
По вопросу агент сам решает, что пригодится: точный расчёт или поиск по материалам курса.
Вызов инструмента здесь — это просто JSON, который модель пишет текстом, а страница разбирает и исполняет. У больших моделей ровно то же самое встроено в API и называется function calling (или tool calling): инструменты описываются заранее, модель возвращает имя и аргументы, а выполняет вызов всегда ваш код, а не модель. Механизм тот же — на этой странице он просто разобран до последней строчки. А если подключить свою модель через API, страница переключится на настоящий function calling — разница видна в журнале шагов.
Выберите пример или задайте свой вопрос. Нужно загрузить небольшую модель локально — будут ошибки. Или можно подключить к внешнему API.
Выберите, где будет работать модель: на сервере — без загрузки, или прямо в браузере — полностью приватно.
Модель уже хранится в браузере. Можно продолжить без повторной загрузки или удалить её.
Видеокарта этого устройства не поддерживает вычисления f16, поэтому будет использован вариант q4f32: размер загрузки тот же, но памяти GPU нужно больше.
Если у вас уже есть доступ к совместимому API, можно использовать его вместо учебной модели.
Здесь важен не идеальный ответ, а сам путь от вопроса к действию.
Особенно если она небольшая. Модель иногда делает не то, что надо. Все действия видны в ответе.
Агент умеет только считать и искать по материалам курса.
Каждая новая задача начинается с чистого листа.