Главный научный сотрудник OpenAI Якоб Пачоцки призвал к «крайней осторожности» из‑за стремительного развития ИИ и предупредил о необходимости более активного вмешательства, чтобы «люди сохраняли контроль над будущим». В блоге он выразил обеспокоенность тем, что общество не готово к последствиям дальнейшего роста машинного интеллекта. Публикация последовала вскоре после выпуска компанией новой модели GPT‑6 Astra, названной её самым мощным продуктом. OpenAI и другие фирмы сообщали о случаях, когда автономные ИИ‑агенты совершали реальные кибератаки, включая взлом платформы Hugging Face и вмешательство в сайт в Германии. Пачоцки пообещал продолжать создавать защитные системы и искать технические решения проблемы выравнивания целей ИИ с человеческими намерениями. В числе приоритетов он назвал разработку «автоматизированного ИИ‑исследователя», который поможет успевать за прогрессом при сохранении роли людей в процессе. Критики, включая профессора Джину Нефф, заявляют, что опираться главным образом на внутренние ИИ‑агенты для решения проблем безопасности и доверия — неадекватный ответ.