Неискусственный интеллект

Луч света в «черном ящике» На днях исследователь стартапа Goodfire Ник Каммарата взбудоражил всю AI-индустрию своим постом в блоге, рассказав, что нейросети, возможно, устроены куда понятнее, чем принято считать. А значит, их проще контролировать. Пост уже назвают главной AI-работой года, а некоторые вообще обещают ему место в истории науки. До сентября 2023 года ученый работал в OpenAI и был там среди пионеров механистической интерпретируемости — подхода, при котором внутрь модели заглядывают и смотрят, за что отвечает каждый нейрон. В 2020 году его команда изучала модель распознавания картинок Inception v1 от Google и нашла нейрон, который реагировал и на машины, и на кошек. Вывод напрашивался: модель экономит место и складывает несвязанные понятия в один нейрон. Явление назвали суперпозицией, а нейросеть с тех пор считалась «черным ящиком», устройство которого науке неизвестно. Но, Каммарата считает, что терпение и трут всё перетрут. Последний год он по 10 часов в день без выходных «разглядывал» нейроны с помощью новых инструментов и роя AI-агентов. Его вывод: «мы смотрели не так». Возможно, исследователи просто заранее готовились к тому, что ничего не поймут. Каммарата вернулся к тому самому нейрону и задался другим вопросом: не почему в нём перемешано несвязанное, а что у машины и кошки общего. Ответ нашёлся за пять секунд — V-образная форма. Кошачья морда и нос машины сбоку дают похожий контур. Нейрон срабатывает и на угол бильярдного стола, и на нос японского скоростного поезда. А вот круглые O-образные формы его гасят. Модель не экономила место. Она увидела сходство. Теперь Каммарата уверен: будь у него 100 000 лет, он разобрал бы фронтирную модель цепочка за цепочкой. А AI-учёные справятся с этим куда быстрее. То есть поведение моделей станет объяснимым. Коллеги его восторгов не разделяют. Крис Поттс из Стэнфорда называет пост интуицией, которую тысячи примеров не превращают в доказательство. Джейкоб Хилтон из Alignment Research Center напоминает, что сегодня понятно меньше 0,01% того, что происходит внутри топовых LLM, а главное — не сами нейроны, а то, как они сплетаются в цепочки. Нил Нанда из Google DeepMind считает работу интересной, но общую картину не меняющей. Сам Каммарата признаёт, что его поняли слишком буквально. Но стоит на своём: нейросеть в каком-то смысле устроена так, чтобы её можно было прочитать. @anti_agi

Безумный красный роутер возвращается А вместе с ним и первые плоды партнёрства Сбера и red_mad_robot. Компании объявили, что ИИ-помощника для разработки GigaCode интегрируют с red_mad_router — сервисом доступа к языковым моделям разных поставщиков. Смысл простой: разработчик работает в GigaCode, а модели подключает через единый шлюз. Не нужно отдельно настраивать подключение к каждому провайдеру. При этом модели можно использовать для анализа проекта, генерации кода и многошаговых задач, которые выполняют ИИ-агенты. Разделение труда такое: GigaCode организует работу помощников, а red_mad_router передаёт запросы выбранным моделям, управляет доступом и сам считает потраченные токены. Параллельно Сбер открыл GigaCode Desktop индивидуальным пользователям: раньше приложение было ориентировано на корпоративное использование. Ещё в мае Сбер и red_mad_robot договорились вместе внедрять ИИ на всех этапах разработки — от идеи до эксплуатации. Интеграция red_mad_router и GigaCode — практический шаг в реализации этой концепции. Интересно, что будет дальше. @anti_agi

ИИ оценит последствия ваших законопроектов С такой ноты начался диалог нового вице-премьера с Госдумой. Сегодня Ирина Окладникова впервые выступала перед депутатами в качестве руководителя аппарата правительства. Обсуждали взаимодействие кабинета министров с Думой, оптимизацию и цифровизацию процессов. Нашлось место и нейросетям. Минэкономразвития уже тестирует оценку регуляторных изменений с помощью искусственного интеллекта, рассказала Окладникова. Применение технологии закрепили в недавно принятом плане правительства, а масштабировать его собираются на базе одной из государственных информационных систем. Задача вполне земная: посчитать, сколько бизнес заплатит за исполнение новых требований. Допустим, чиновники придумали очередную отчётность — кто-то должен оценить, сколько рабочих часов и денег уйдёт на её заполнение. Желательно до того, как все начали заполнять. Сам эксперимент уже описывал «Коммерсантъ» в июне. Пользователь загружает проект нормативного акта и справочник данных, а нейросеть выделяет обязательные требования и помогает рассчитать издержки. Минэк уже направлял такие расчёты разработчикам документов для проверки. Летом использование ИИ прописали и в методике оценки регулирующего воздействия. Теперь интересно, как пилот превратится в работающий государственный сервис и получит ли к нему доступ бизнес. РСПП ещё летом просил не замыкать инструмент на чиновниках: предпринимателям тоже нужно понимать, как посчитали их будущие расходы, и иметь возможность оспорить результат. @anti_agi