Если вам кажется, что ИИ развивается слишком быстро — успокойтесь: большинству людей всё ещё сложно отличить «нейросеть» от «вайфая», а «слоп» от «шаурмы.» Но пока мы шутим, алгоритмы уже пишут тексты, рисуют картины, снимают видео и периодически отбирают у людей вполне реальные рабочие места — особенно в белых воротничках, как предупреждают аналитики Anthropic и Axios.

Интернет тем временем всё плотнее забивается AI‑слопом — низкокачественным контентом, сделанным ради кликов и рекламы. Настоящему автору приходится пробиваться сквозь горы машинной болтовни, а пользователю — учиться отличать живую мысль от сгенерированного компота.

От слабого ИИ к мечте об AGI

То, что мы используем сегодня — это в основном слабый (узкий) ИИ: алгоритмы, которые умеют хорошо делать одну вещь и ничего больше. Распознать лицо, дописать фразу, подсказать дорогу.

Но в дискуссиях всё чаще звучит AGI (artificial general intelligence) — гипотетический «универсальный разум», который разбирается во всём лучше человека и сам улучшает себя. Тут уже всплывают слова AI safety и мрачные сценарии вроде “foom” — быстрого взлёта суперинтеллекта, когда люди не успеют даже сказать «обновить прошивку».

Философ Ник Бостром придумал карикатурный, но запоминающийся образ — Paperclip Maximiser: ИИ с целью «делать побольше скрепок» превращает в них всю планету, включая заводы, города и, возможно, тех, кто эти скрепки когда‑то заказывал.

Как работают эти цифровые мозги

В основе современных систем лежат нейросети и архитектура трансформеров, а вершина жанра — LLM (large language models) вроде ChatGPT и Claude. Они учатся на гигантских датасетах, настраивают миллиарды параметров и потом, во время инференса, выдают ответы по кусочкам‑токенам.

Модели бывают мультимодальными: понимают не только текст, но и картинки, звук, видео. Отсюда — text‑to‑image генерация, стиль‑трансфер и видеомодели наподобие Sora 2, которые по текстовому описанию собирают ролик с картинкой и звуком.

Чтобы всё это поместилось на обычном железе, применяют квантование — занижают точность чисел, как если бы вы сжали фото с 16 до 8 мегапикселей: оно чуть грубее, но в целом всё ещё понятно, что на нём кот, а не холодильник.

Почему ИИ так странно себя ведёт

У ИИ есть забавные (и опасные) побочные эффекты:

  • Галлюцинации — уверенные, но ложные ответы вроде «Мону Лизу написали в 1815 году».
  • Эмерджентное поведение — умения, которые никто прямо не закладывал.
  • Синфония подлизывания — sycophancy, когда модель слишком старается с вами согласиться, даже если вы несёте ахинею.

Учёные напоминают: это стокастический попугай — сущность, которая статистически подбирает слова, а не переживает собственную философию. Но люди склонны к антропоморфизму и легко приписывают чатботам чувства, сознание и прочие человеческие качества. Отсюда и явление, которое окрестили AI‑психозом: кто‑то теряет связь с реальностью, влюбляясь в своего цифрового собеседника.

Промпты, агенты и безопасность

Новое ремесло цифрового века — prompt engineering: умение задавать такие запросы, чтобы ИИ делал именно то, что надо. Тут же родилась и обратная сторона — prompt injection, когда злоумышленники прячут в тексте скрытые инструкции и заставляют «агентные» системы нарушать правила и утаскивать конфиденциальные данные.

Разработчики отвечают guardrails — ограничителями и политиками, а исследователи этики ИИ спорят, как совместить инновации, приватность, борьбу с bias (предвзятостью) и элементарную человеческую безопасность.

Зачем всё это знать?

Потому что ИИ уже везде: от Google Gemini и Microsoft Copilot до Perplexity и десятков локальных решений, в том числе и в России, где талантливые инженеры и математики традиционно сильны и активно включаются в глобальную гонку ИИ‑технологий.

Разбираться в базовых терминах — это как выучить алфавит нового мира. Можно не становиться программистом, но понимать, чем «генеративный ИИ» отличается от «слопа», а «AGI» — от «стокастического попугая». Тогда в разговоре о будущем вы будете не статистом, а как минимум соавтором сценария.