Директорами института указаны сооснователь DeepMind Шейн Легг, руководитель Google Джеймс Маника и председатель Google DeepMind Демис Хассабис. Легг также занимает должность управляющего редактора.
Первая подборка института включает четыре эссе. Они посвящены экономической политике на случай потрясений из-за AGI, сохранению понятных человеку рассуждений моделей, принципам человеческого благополучия и оценке передовых систем ИИ.
Исследователи безопасности DeepMind Рохин Шах и Анка Драган утверждают, что сокращение возможностей наблюдать и проверять пошаговые рассуждения моделей не является неизбежным. Они предлагают рассмотреть ограничения непрозрачной последовательной глубины вычислений либо требовать доказательств сопоставимой контролируемости менее прозрачных систем.
Хассабис предложил создать возглавляемый США орган по стандартам передового ИИ. Согласно его концепции, разработчики сначала добровольно представляли бы модели на проверку не позднее чем за 30 дней до выпуска, а впоследствии успешное прохождение тестов могло бы стать условием их развёртывания в США.
Предложение также предусматривает возможный переход к независимым закрытым тестам и, при более серьёзных рисках, к согласованному замедлению разработки передового ИИ. Эта концепция не является действующим требованием.