Дарио Амодей представил новое эссе под названием «Подростковый период технологий», которое продолжает его предыдущую работу «Машины милосердия». В отличие от первой части, исследование сейчас сосредоточено на путях достижения утопии с ИИ. По мнению Амодея, «мощный ИИ», превосходящий самых выдающихся ученых, может появиться уже через 1-2 года. Он вводит концепцию «страны гениев в дата-центре», где миллионы ИИ функционируют автономно и значительно быстрее человека. Амодей выделяет пять основных рисков: автономия, биотерроризм, захват власти диктатурами, экономические потрясения и косвенные эффекты, включая «ИИ-психозы». В качестве мер защиты он предлагает Constitutional AI, публичные отчеты и строгий экспортный контроль. Глава Anthropic призывает к трезвому взгляду на угрозы, отвергая крайности как пессимистов, так и оптимистов.
