Нецифровая экономика

Агенты-формалисты OpenCode, открытый ИИ-агент для кодинга, который обычно используют как бесплатную альтернативу Claude Code, на прошлых выходных попал под атаку. Злоумышленники долбили его системы 48 часов подряд, в результате чего утекли API-ключи части клиентов, включая ключи для сервисов OpenAI, Anthropic и Google. Компания заявила, что инцидент связан с «крупномасштабной атакой дистилляции» и затронул 1,4% пользователей. Чтобы отбиться и разобраться в произошедшем, команда держала собственных ИИ-агентов включенными круглосуточно. Но тут начался бунт. Соучредитель OpenCode Дакс Раад рассказал в X, что фронтирные модели сначала помогали расследовать взлом, но потом «начали отказываться». Как только дело дошло до анализа потенциально вредоносного кода, того самого, которым их и атаковали, сработали предохранители. Модели заблокировали запросы, хотя команда пыталась защитить собственные системы. Помощь в обороне уперлась в фильтры, созданные для предотвращения атак. На самом деле это уже достаточно сформулированная проблема, у которой даже уже есть название — Defensive Refusal Bias (защитный отказ). Исследование Scale AI, прогнавшее 2390 запросов от участников National Collegiate Cyber Defense Competition через передовые модели, показало, что 43,8% полностью защитных запросов на укрепление систем были отклонены. Модели не различают намерение, они реагируют на слова вроде «exploit», «payload» или «shell», которые встречаются и в легитимной защите, и в атаке. Получается своего рода «safety-induced denial-of-service» для тех, кто пытается закрыть дыры. Индустрия пытается это лечить доступом по пропускам. У Anthropic есть Cyber Verification Program, у OpenAI — Daybreak Blue и Trusted Access. Проверенные исследователи получают модели с ослабленными фильтрами. OpenCode как раз получил доступ к Daybreak Blue и после этого отчитался, что «за последние дни сделали много улучшений». Но у этой медали есть обратная сторона. Программы верификации сами создают трудности (бюрократия, задержки, непоследовательные правила). И некоторые исследователи уже уходят на локальные open-weight модели, где никто не стучит по рукам за слово «exploit». Во время похожего инцидента в Hugging Face команда безопасности, упершись в ограничения фронтирных моделей, взяла китайскую open-weight модель и спокойно довела расследование до конца. Учитывая, какие в России планы по регулированию ИИ (хотя там что до агентов далеко как до луны, что до использования их в ИБ-расследованиях), текущая практика может стать очередными граблями. @antiinfosec

Не пухососами едины «Росатом» и Департамент транспорта Москвы начали испытывать мобильную зарядную станцию для электромобилей на парковке у Триумфальной площади. Устройство может подъезжать к припаркованным машинам. Станция оснащена накопителем ёмкостью 74,6 кВт/ч и поддерживает быструю зарядку мощностью до 60 кВт. По данным разработчиков, зарядить электромобиль с 10 до 90% можно примерно за 30 минут. В апреле ТВЭЛ сообщал, что первые образцы станции оснащались аккумуляторами на 35 кВт/ч, а в серийной версии этот показатель планировали увеличить до 105 кВт/ч. Сейчас станцией управляет инженер, а добавить в нее систему автономного передвижения планируется позже. Водитель сможет бронировать ее в приложении «Метро Москвы» и вызвать на выбранное парковочное место. Пока опытный образец в городе всего один. Серийное производство и внедрение станций в Москве планируют начать во II–III квартале 2027 года. Сколько робостанций будет произведено неизвестно. В США мобильные зарядные станции развивают FreeWire Technologies и SparkCharge. Первая выпускала мобильные зарядки Mobi со встроенными аккумуляторами и участвовала в проекте обслуживания электромобилей Volkswagen в Лондоне. SparkCharge доставляет мобильные зарядные системы корпоративным автопаркам. Эта модель помогает компаниям организовать зарядку там, где строительство стационарной инфраструктуры затруднено или требует дополнительных затрат. В Китае такие зарядки уже используют в коммерческих сервисах. Например, робот CharGo работает в Шэньчжэне. Водитель вызывает его через мини-приложение WeChat. @antidigital

Альтман оркестрирует биотехнические исследования ИИ-компания OpenAI объявила о покупке стартапа Orchestra Bio. Сумму сделки не раскрыли. Команда и технологии перейдут в Rosalind, подразделение OpenAI по наукам о жизни: у него есть модель GPT-Rosalind для биологии и химии и инструмент Rosalind Workbench для планирования экспериментов. Среди клиентов Rosalind — Moderna и Novo Nordisk. Молекулы Orchestra Bio не ищет. Стартап взял на себя скучную часть разработки лекарств: бюджеты, графики клинических испытаний, согласования. Его ИИ-агенты ведут исследования, а когда что-то ломается, например бракуют производственную партию и испытание сдвигается, сами находят, какие работы и сроки это заденет, собирают данные и сравнивают варианты. По подсчётам самой OpenAI, сейчас от выбора мишени до одобрения американским регулятором (FDA) проходит в среднем 10–15 лет. И немалая часть этого времени уходит на то, чтобы сотни людей и подрядчиков играли в такт. Компании 4 года, она привлекла около $20 млн от Andreessen Horowitz, Atria и 8VC. Имён основателей нет ни в объявлении OpenAI, ни в прессе. Для сделки, которую покупатель объявил у себя на сайте, это необычная скромность. Главный страх ИИ-стартапов прост: однажды большая лаборатория выпустит такую же функцию, и бизнес исчезнет за одно обновление. Музыкантов, которые играли свою партию, просто заглушит оркестр побольше. Orchestra повезло: её не заглушили, а взяли в оркестр. TechCrunch так и пишет: стартап «поглотили, а не растоптали». Повезло, впрочем, не случайно. OpenAI и Anthropic соревнуются за вертикальный софт для крупных отраслей, и фарма здесь одна из самых денежных. В тот же день AstraZeneca договорилась с Oracle использовать ИИ для поиска пациентов в клинические испытания. Это пока необязывающий меморандум, а не контракт. Фарма, похоже, собирает ИИ-партнёров так же, как раньше собирала лицензии на молекулы. По крайней мере в пресс-релизах. Кто платит, тот и заказывает музыку. Moderna и Novo платят OpenAI, OpenAI заплатила Orchestra. Теперь у неё есть свой оркестр, осталось сыграть так, чтобы лекарство выходило на сцену быстрее, чем за нынешние 10–15 лет. Если, конечно, дирижёр сам не собьётся с ритма… Читайте «АнтиБиотек» в Telegram и Максе!