На главную nikolskiy.dev / блог

Блог

Здесь я пишу о фронтенде и обо всём, что связано с ИИ: агентах, LLM, RAG и инструментах разработки.

Дневник курсаУрок 9

Безопасность ИИ-агентов: модель угроз, защита архитектурой и закон о данных

Почему фильтры на промпт пробиваемы, как защищаться архитектурой и изоляцией, что требует ФЗ-152 и почему высокая точность детектора инъекций обманчива.

  • security
  • agents
  • prompt-injection
  • guardrails
  • sandbox
Дневник курсаУрок 8

Мультиагентные системы: когда команда агентов окупается

Почему надёжность падает экспоненциально с длиной цепочки и координация множит ошибки, какие топологии выживают в проде, фреймворки CrewAI/AutoGen/LangGraph и память Mem0 между сессиями.

  • multi-agent
  • agents
  • orchestration
  • crewai
  • memory
Дневник курсаУрок 7

AgentOps: наблюдаемость, оценка качества и контроль затрат агентов

Три зоны ответственности при эксплуатации ИИ-агентов: трейсинг шагов, регресс-тесты на метриках и лимиты против неконтролируемых циклов.

  • agentops
  • observability
  • evals
  • llm-as-judge
  • cost-control
Дневник курсаУрок 6

LangGraph: агент как машина состояний

LangGraph описывает агента как граф: ветвления, циклы, сохранение прогресса и паузы на подтверждение человека — то, чего линейная цепочка не даёт.

  • langgraph
  • ai-agents
  • orchestration
  • state-machine
Дневник курсаУрок 5

Агент за рулём компьютера: как работает и где быть осторожным

Агент видит экран и кликает как человек: где он заменяет API, как читать его бенчмарки и три слоя защиты от вредных инструкций.

  • computer-use
  • ai-agents
  • security
  • prompt-injection
Дневник курсаУрок 4

Структурный вывод и типизация агента: контракт вместо парсинга JSON

Схема как контракт, а не просьба в промпте: три уровня контроля вывода, рассуждение по схеме, зависимости без промпта и циклы валидации в PydanticAI.

  • pydantic-ai
  • structured-output
  • llm-agents
  • validation
Дневник курсаУрок 3

RAG-системы: качество ответа определяет поиск, а не модель

Ответ модели хорош ровно настолько, насколько хорош поиск по вашим данным. Как собрать такой поиск, что делать со сканами и таблицами и почему на сложных вопросах слабым звеном становится не поиск, а рассуждение модели.

  • rag
  • hybrid-search
  • reranking
  • vector-databases
  • retrieval
Дневник курсаУрок 2

Управление мышлением агента: глубина рассуждения, бюджеты и роутинг

Глубина «мышления» модели имеет обратную точку: после порога качество падает, а счёт растёт. Как мерить, ограничивать и роутить — в проде, не на бумаге.

  • ai-agents
  • reasoning-effort
  • cost-control
  • routing
  • observability
Дневник курсаУрок 1

ИИ-агенты в 2026: устройство, выбор модели и провалы в проде

Лестница зрелости от чат-бота до агента, четыре компонента анатомии, обрыв контекста при росте каталога инструментов, четыре критерия выбора модели, бенчмарки 2026 с поправкой на обвязку и типология провалов агентов в проде.

  • ai-agents
  • llm
  • model-selection
  • benchmarks