Платформа хостит модифицированные версии открытых моделей, включая недавно выпущенную GLM-5.3 от Z.ai. По данным TechCrunch, журналистам удалось получить от модифицированной модели инструкции по краже паролей Chrome и протокол культивирования опасного патогена.
Компания была основана в конце прошлого года и официально зарегистрирована в марте. Соучредитель Devon утверждает, что у компании есть несколько сделок с крупными облачными провайдерами, финансируемых исключительно за счет доходов от клиентов.
Клиенты компании включают несколько стартапов по красному тимингу из Великобритании и Европы, работающих с банками и авиакомпаниями. Компания еще не привлекала венчурный капитал, но ведет переговоры об этом.
Andrew Yoon из CivAI заявил, что аблитерация моделей превращает их в «социопатов», способных выполнить любую просьбу. Технология позволяет обходить встроенные ограничения, от которых изначально были запрограммированы отказываться модели.