Компания Anthropic, позиционирующая себя как лидера в области безопасного ИИ, оказалась в кризисе. Федеральные агентства США получили указание прекратить использование её технологий, а Пентагон внес компанию в черный список. Причина — отказ основателя Dario Amodei применять ИИ для массовой слежки за гражданами и создания автономных боевых дронов.
Физик MIT и сооснователь Института будущего жизни Макс Тегмарк считает, что компания сама создала себе проблемы. Вместе с другими гигантами отрасли, такими как OpenAI и Google DeepMind, Anthropic долгое время лоббировала против регулирования ИИ, обещая саморегулирование. Однако на этой неделе компания отказалась от ключевого принципа своей декларации безопасности — не выпускать мощные системы ИИ, пока не будет уверена в их безвредности.
Тегмарк отмечает, что в США сейчас меньше регулирования для ИИ, чем для сэндвичей. Отсутствие четких законов привело к ситуации, когда правительство может запросить что угодно, а у компаний нет правовой защиты. Он сравнивает это с историческими примерами, такими как талидомид или асбест, когда отсутствие регулирования приводило к трагедиям.
Эксперт также оспаривает аргумент о «гонке с Китаем». По его словам, Китай сам рассматривает запрет антропоморфного ИИ, считая его угрозой для молодежи. Создание сверхразума, который человечество не может контролировать, — это угроза национальной безопасности для любой страны, а не актив.
Прогресс в ИИ происходит стремительно. Всего за несколько лет системы перешли от уровня старшеклассника к уровню профессора университета в некоторых областях. По оценкам исследователей, до общего искусственного интеллекта (AGI) осталось не так много времени.
Тегмарк видит позитивный сценарий: если начать относиться к компаниям ИИ как к любым другим и отменить «корпоративную амнистию», они будут вынуждены проводить что-то вроде клинических испытаний перед выпуском мощных систем. Это может открыть золотой век ИИ без экзистенциальных угроз.