ИИ-компании не соблюдают меры предосторожности, заявил бывший руководитель службы безопасности OpenAI.
Дэвид Робинсон покинул этот пост на прошлой неделе. Теперь он предупреждает, что создатели нейросетей недостаточно осмотрительны в своей работе.
«Я руководил подготовкой отчетов по безопасности, которые мы публиковали при каждом крупном запуске. Теперь же я присоединяюсь к целому ряду бывших коллег из OpenAI и других ведущих компаний отрасли, которые пришли к выводу, что нынешний путь неприемлем», — написал Робинсон в статье для Atlantic.
В будущем специалист планирует помогать людям в работе с ИИ — Робинсон хочет показывать риски, которые он наблюдал в OpenAI, и мотивировать разработчиков уделять больше внимания проблемам безопасности.