Исследователь Джейкоб Коксон, ранее работавший в OpenAI и Anthropic, объявил об уходе из Anthropic. Он заявил, что ведущие компании «играют с нашими жизнями» и не уделяют достаточного внимания безопасности.
Вслед за ним руководитель направления alignment в Anthropic опубликовал пост, в котором написал: «Мы действительно искренне верим, что ИИ может убить всех людей». Он оценил вероятность такого исхода в «более 10% в ближайшие десять лет».
На подкасте TechCrunch Equity журналисты обсудили мотивы таких заявлений. Редактор Энтони Ха отметил, что Коксон — редкий пример человека, который действительно поставил карьеру на кон, уйдя из компании из-за убеждений. «Если ты веришь, что ИИ может уничтожить человечество, ты не станешь продолжать работать над ним», — сказал Ха.
Коллеги задались вопросом, не являются ли громкие предупреждения формой «хвастовства» — способом показать, насколько мощные модели созданы в компании. «Если бы модели не были такими продвинутыми, нам не пришлось бы о них беспокоиться», — заметила журналистка Кирстен Корошек.
Особое внимание привлёк контекст: Anthropic готовится к IPO, и заявления о 10-процентном риске гибели человечества могут повлиять на оценку компании. Журналист Шон О’Кейн предположил, что юристам, возможно, придётся переписывать разделы S-1, чтобы отразить официальную позицию компании о возможном уничтожении человечества как факторе риска для бизнеса.
