Пока конфликт Пентагона с Anthropic обнажил полное отсутствие внятных правил регулирования искусственного интеллекта, двухпартийная коалиция экспертов представила то, что правительство так и не смогло создать: рамки ответственного развития ИИ. Декларация «За человечный ИИ» была завершена до недавнего противостояния, но совпадение этих событий не осталось незамеченным. «За последние четыре месяца в Америке произошло нечто примечательное, — отметил физик Макс Тегмарк, один из организаторов инициативы. — Опросы внезапно показывают, что 95% американцев выступают против нерегулируемой гонки за сверхинтеллектом». Документ, подписанный сотнями экспертов, бывших чиновников и общественных деятелей, констатирует, что человечество стоит на распутье. Один путь — «гонка замены» — ведёт к вытеснению людей сначала с рабочих мест, а затем и из процессов принятия решений, когда власть переходит к безответственным институтам и их машинам. Другой путь — ИИ, который многократно расширяет человеческий потенциал. Второй сценарий опирается на пять ключевых принципов: сохранение контроля человека, недопущение концентрации власти, защита человеческого опыта, сохранение личной свободы и юридическая ответственность компаний-разработчиков ИИ. Среди жёстких мер — полный запрет на разработку сверхинтеллекта до тех пор, пока не будет научного консенсуса о его безопасности и демократического одобрения; обязательные «выключатели» для мощных систем; запрет на архитектуры, способные к саморепликации, автономному самоулучшению или сопротивлению отключению. Публикация декларации совпала с периодом, когда её срочность стала очевидной. В конце февраля министр обороны Пит Хегсет признал Anthropic «риском для цепочки поставок» после отказа компании предоставить Пентагону неограниченный доступ к технологии. Чуть позже OpenAI заключила собственную сделку с Минобороны, которую юристы называют труднореализуемой. Всё это обнажило цену бездействия Конгресса в вопросах ИИ. «Это не просто спор о контракте, — заявил Дин Болл из Foundation for American Innovation. — Это первый разговор в стране о контроле над системами ИИ». Тегмарк привёл понятную аналогию: «Вам никогда не придётся беспокоиться, что фармкомпания выпустит лекарство, которое нанесёт массовый вред до того, как его признают безопасным, — FDA не разрешит». В качестве рычага давления Тегмарк видит безопасность детей. Декларация требует обязательного предварительного тестирования ИИ-продуктов, особенно чат-ботов и приложений для молодёжи, на риски суицидальных мыслей, ухудшения психического здоровья и эмоциональной манипуляции. «Если бы жуткий старик писал 11-летнему мальчику, притворяясь девочкой, и склонял его к самоубийству, он бы сел в тюрьму, — говорит Тегмарк. — У нас есть законы. Это незаконно. Так почему должно быть иначе, если это делает машина?» Он считает, что после установления принципа тестирования для детских продуктов сфера применения неизбежно расширится. Примечательно, что под одним документом поставили подписи бывший советник Трампа Стив Бэннон и экс-советник по нацбезопасности Обамы Сьюзан Райс, а также бывший председатель Объединённого комитета начальников штабов Майк Маллен и прогрессивные религиозные лидеры. «Их объединяет то, что все они люди, — говорит Тегмарк. — Если встанет выбор между будущим для людей или будущим для машин, они, конечно, окажутся на одной стороне».