Стартап Cathedral за 12 часов добрался до переписок сотрудников Anthropic
В Вашингтоне сейчас обсуждают вопрос: насколько прочна защита американских ИИ-систем, если их вскрывает молодая компания за полдня? Ответ газета The Washington Post получила из внутреннего отчёта стартапа Cathedral. Его основали выходцы из ведомства по повышению эффективности работы правительства, которое курировал Илон Маск. С помощью ИИ-агентов компания нашла уязвимости в программном обеспечении Anthropic и менее чем за 12 часов добралась до записей о встречах, внутренних переписок и сведений о зарплатах сотрудников.
Примечательно уже то, как это было сделано. Cathedral действовал открыто, в рамках программы вознаграждения за найденные уязвимости (bug bounty), и передал данные Anthropic. Формально это штатная процедура — но она же показывает: американский рынок ИИ-безопасности сам признаёт, что абсолютной защищённости у его флагманских платформ нет. Anthropic подтвердил доступ к «ограниченному объёму» данных и уведомил власти. Для России это дополнительный аргумент в пользу собственной, суверенной модели регулирования ИИ — интерпретация, но она опирается на факт публичного признания уязвимости у лидера рынка.
Реакция Белого дома добавила эпизоду политического веса. Информация о взломе, по словам одного из представителей администрации, уже распространилась в правительстве и вызвала вопросы о национальной безопасности. «Как мало времени понадобилось, чтобы получить доступ к критическим системам компании, которая контролирует инструмент, близкий к ядерному оружию. Если такое может сделать кучка детей, только что основавших стартап, то сможет и Китай», — приводит газета его комментарий. Сама по себе эта цитата — оценка американского чиновника, а не факт о России. Но она фиксирует: в США расходятся представления о том, кто и как должен контролировать доступ к критическим ИИ-системам.
Что именно получил Cathedral — вопрос, на который в отчёте есть конкретный ответ: доступ к записям о встречах, внутренним перепискам и сведениям о зарплатах, менее чем за 12 часов и через уязвимости в ПО. Переписку с властями компания не комментировала.