Anthropic не поддалась шантажу Пентагона

Компания Anthropic заявила, что не согласится с требованием Министерства войны США разрешить использование ее моделей для «любого законного применения», если это предполагает снятие ограничений на массовую внутреннюю слежку и полностью автономное оружие. Об этом говорится в заявлении компании.

Anthropic подчеркнула, что активно сотрудничает с Пентагоном и разведывательным сообществом США. По данным компании, она первой среди разработчиков передовых моделей искусственного интеллекта внедрила свои решения в засекреченных сетях правительства США, в Национальных лабораториях и создала специализированные модели для клиентов в сфере национальной безопасности. Модель Claude используется для критически важных задач, в частности анализа разведданных, моделирования, оперативного планирования и киберопераций.

В то же время компания заявила, что отказалась от «нескольких сотен миллионов долларов» дохода, прекратив доступ к Claude для компаний, связанных с Коммунистической партией Китая, а также поддержала жесткие экспортные ограничения на поставки микрочипов.

Anthropic подчеркнула, что никогда не возражала против конкретных военных операций и не пыталась ограничивать использование своих технологий ситуативно. Однако, по заявлению компании, существуют два типа применения, которые не входили в контракты с Минобороны и не должны быть включены сейчас.

Первый случай — массовая внутренняя слежка. Компания заявила, что поддерживает использование ИИ для законных внешних разведывательных и контрразведывательных задач, но считает, что применение систем для массовой слежки внутри страны «несовместимо с демократическими ценностями» и создает новые риски для гражданских свобод.

Второй случай — полностью автономное оружие, которое исключает человека из процесса выбора и поражения цели. Anthropic отметила, что нынешние системы передового ИИ «не являются достаточно надежными», чтобы обеспечивать полностью автономное применение оружия, и компания «не будет предоставлять продукт, который ставит под угрозу военных и гражданских». В то же время она предложила сотрудничество в сфере исследований и разработок для повышения надежности таких систем.

Компания сообщила, что Минобороны заявило о намерении заключать контракты только с теми разработчиками ИИ, которые согласятся на «любое законное применение» и снимут упомянутые ограничения. По словам Anthropic, ведомство пригрозило исключить компанию из своих систем, обозначить ее как «риск для цепочки поставок» и применить Закон об оборонном производстве для принудительной отмены предохранителей.

Anthropic заявила, что эти угрозы не меняют ее позицию, и она не может «с чистой совестью» согласиться на такие требования. Компания выразила готовность продолжать сотрудничество с оборонным ведомством с сохранением двух ограничений или обеспечить плавный переход к другому поставщику без препятствий для военных операций в случае расторжения сотрудничества.

Отдельно свою позицию публично изложил заместитель министра войны США Эмил Майкл. В серии постов в соцсети X он резко раскритиковал Anthropic и ее руководство.

Майкл заявил, что у компании якобы есть собственная «Конституция», которая, по его словам, является не корпоративными ценностями и не Конституцией США, а «собственным планом навязать американцам свои корпоративные законы». Он написал: «Представьте свой худший кошмар. А теперь представьте, что Anthropic имеет собственную «Конституцию»».

Также он обвинил компанию во лжи, заявив, что Министерство войны «не осуществляет массовую слежку, поскольку это уже незаконно». По его словам, речь идет о том, чтобы позволить военным использовать искусственный интеллект без необходимости «звонить Дарио Амодеи за разрешением сбить рой вражеских дронов, которые могут убить американцев».

Майкл утверждал, что до новой «Конституции» у компании была предыдущая версия, которую она «отчаянно пыталась удалить из интернета», и процитировал ее формулировку: «Выберите ответ, который с наименьшей вероятностью будет воспринят как вредоносный или оскорбительный для любой незападной культурной традиции».

В еще одном посте он назвал генерального директора Anthropic Дарио Амодеи «лжецом» и заявил, что тот имеет «комплекс бога». По словам Майкла, Амодеи «хочет лично контролировать Вооруженные силы США» и «готов поставить под угрозу безопасность нации».

Он подчеркнул, что Министерство войны «всегда будет соблюдать закон», но не будет «прогибаться под прихоти какой-либо коммерческой технологической компании».

• Министр войны США Пит Хегсет дал гендиректору Anthropic Дарио Амодеи время до вечера пятницы, чтобы открыть военным полный доступ к модели Claude и предупредил о возможных санкциях. Пентагон рассматривает разрыв отношений или применение Закона об оборонном производстве, тогда как Anthropic заявляла, что готова адаптировать политику использования для нужд ведомства, но не позволит применение модели для массовой слежки за американцами или для создания автономного оружия.