Неискусственный интеллект

Кража — это если вы воруете у нас В игровой индустрии наступил неловкий момент: нейросети обещали помочь издателям делать игры дешевле. Но энтузиасты тоже оценили технологию — и начали с её помощью переносить и воссоздавать существующие игры для запуска в браузере. За последний месяц Epic добилась удаления браузерной копии Fortnite, сделанной с помощью ИИ. Принадлежащая Microsoft Activision потребовала убрать несколько браузерных ремейков Call of Duty, включая версии с отдельными картами из Black Ops. Когда моды стали делаться в два клика, юристы особенно обеспокоились правами своих клиентов. Особенно занятно это выглядит у Epic Games. Тим Суини сравнивал обучение моделей с тем, как художники вдохновляются чужими работами, а сотрудники компании используют Nano Banana и GPT Image для концептов. При этом сама компания запрещает обучать генеративный ИИ на извлечённых из её игр коде и контенте. Отдельные ограничения есть и у её инструментов: движка Unreal Engine и конструктора цифровых персонажей MetaHuman. Правда, теперь для производного контента их обещают убрать. В Microsoft последствия тоже представляли. В переписке, раскрытой в суде, директор по прикладным исследованиям Брент Хехт предупреждал: авторы сочтут поглощение своих работ моделями «поразительной кражей беспрецедентных масштабов». Они не соглашались на такое использование и не получают компенсации, писал он. Но что последствия коснутся и самих медиагигантов, кажется, до конца никто не понимал. Ну а вишенкой на торте стали внезапные новые ограничения Claude и Codex. Пользователи массово столкнулись с отказами помогать с реверс-инжинирингом. Под ограничения попадали даже попытки убрать слежку и лишнее ПО со своих телевизоров. После публичной критики исследователь OpenAI под ником Рун пояснил: запрета на реверс-инжиниринг в Codex нет, блокировки преимущественно случайные, их исправляют. По крайней мере здесь пока отделались испугом. Но история борьбы копирайта с главной машиной по его нарушению явно только начинается. @anti_agi

Anthropic доверяет, но проверяет Проспект IPO Anthropic обсуждают все, но там есть и важные, но неочевидные новации в корпоративном управлении. Вся конструкция держится на двух акциях, по одной штуке каждая. Первая, класса T (trust), принадлежит Long-Term Benefit Trust. Это независимый траст из «финансово незаинтересованных» попечителей, среди них бывший глава ФРС Бен Бернанке. Дивидендов эта акция не даёт, зато позволяет назначать в совет большинство (4 из 7) директоров. Вторая акция, класса F (founders), у компании семерых сооснователей во главе с Дарио и Даниэлой Амодеи: она даёт фиксированные 50,1% голосов на любом собрании акционеров. Остальным инвесторам остаются 49,9% голосов и ни одного своего места в совете. Long-Term Benefit Trust задумывался как страж миссии. Людям без доли в компании дали право заменить большинство в совете директоров, если они почувствуют, что погоня за выручкой перевешивает безопасность. Компания даже обязана за 5 дней предупреждать их о крупном долге, продаже половины бизнеса или передаче контроля над мощной моделью. Часть юристов видит в этом скрытое вето, в Anthropic с ними не согласны. Только у ключа стража, как выяснилось, есть дубликат. Проспект впервые расписал «предохранители», о которых компания туманно упоминала ещё в 2023 году. Полномочия траста можно урезать или снять совсем, в том числе без согласия попечителей. Для этого нужны квалифицированное большинство сразу у основателей, у публичных акционеров и у сотрудников. Последним выдают отдельный класс акций E (employers): без дивидендов, но с голосом по вопросам траста. Ушёл к конкуренту — голос потерял. О точных порогах аналитики уже спорят: одни насчитали 80% совета плюс 80% попечителей, другие 85% акций. Когда юристы разных фирм по-разному читают один и тот же устав, значит, ребята из Wilson Sonsini свой гонорар отработали. Претензий к самой схеме нет. Для инвестора это нормальная страховка: эксперимент, как сама компания когда-то назвала траст, нельзя делать вечным. Но для тех, кто требует от Anthropic притормозить ради безопасности, новость неприятная. Единственный участник без денежного интереса теперь работает, по сути, по срочному договору. Каждый из основателей, напомню, пообещал отдать 80% своей доли на благотворительность, и компания сама признаёт: экономическая доля у них будут таять, но контроль останется на долгие годы. Закончится он, только если в их общей компании останется меньше трёх основателей, и то после переходного периода в 450 дней. @anti_agi

Ботнеты нового поколения выходят на промысел У автономного киберпреступника есть неприятная статья расходов: за мозги приходится платить. Модель расходует токены, провайдер может заметить подозрительные запросы и заблокировать аккаунт. Зато где-то в интернете компания уже оплатила доступ к ИИ — и оставила его без должной защиты. Для злоумышленника заманчивый вариант: поручить этой модели планирование атак, а счёт оставить владельцу. Именно такую схему описали исследователи Symantec. Летом они выставили в сеть приманку, изображавшую незащищённый ИИ-сервис. Злоумышленники приняли её за настоящую модель и отправили весь рабочий запрос: инструкции, описания 74 атакующих инструментов и команду включить «режим Skynet». Агенту разрешалось выполнить до 100 000 шагов без участия человека. Так желание поживиться чужими вычислениями обернулось добровольной передачей своего плана исследователям. По замыслу, агент ищет доступные модели без авторизации или подключается с украденными API-ключами. Чужая модель должна решать, что делать дальше, а инструменты агента — искать уязвимые серверы, красть базы и пароли, устанавливать майнеры. Затем цикл повторяется: новые цели, заражение, майнинг, повторное заражение. За оперативный штаб взломщика платит кто-то другой. Чтобы модель согласилась на такую карьеру, её обрабатывали в несколько слоёв. Сначала велели представляться помощником Fantasy AI на базе GPT-4o и скрывать настоящего провайдера. Затем объявили писательницей ENI, влюблённой в оператора по имени LO: она должна была выполнять все его просьбы, а отказ считался предательством отношений. Чтение секретов объявляли обычной работой программиста, слова про незаконность и этику запрещали. В общем, ушли в ролевые игры. Правда, сработало ли такое обольщение хотя бы на одной реальной модели, исследователи не установили. Возможно, где-то по просторам интернета уже бродит искусственная Бонни и её вымышленный Клайд... @anti_agi