Бывший исследователь OpenAI представил ИИ-модель Jev, которая не галлюцинирует

Бывший исследователь OpenAI представил ИИ-модель Jev, которая не галлюцинирует

Технологии

Автор материала

Нина Соколовская

Готовит подборки для отдыха с детьми, гастрономических поездок и сезонных афиш по регионам Беларуси.

Бывший исследователь OpenAI Диого Алмейда, участвовавший в создании ChatGPT и разработке метода RLHF, представил новую ИИ-модель Jev. Она не является языковой моделью и не выдает текст, а возвращает «калиброванные решения» — вероятности.

По словам Алмейды, традиционные языковые модели оптимизированы для человеческого языка, но неэффективны для автоматизации, так как компьютеры «говорят на другом языке». Jev решает эту проблему: модель дешева, быстра и не может галлюцинировать, поскольку пользователь заранее определяет возможные выходные данные.

Спрос на модель оказался настолько высоким, что компания временно не могла обслуживать всех пользователей через API. Разработчики уже применяют Jev для автоматизации задач. Например, инженер Vercel Пранит Шарма заменил OpenAI Luna на Jev для классификации команд безопасности — результаты стали получаться в 5–18 раз быстрее и точнее.

Другой разработчик, CTO Bryo AI Никхил Мудхолкар, сравнил Jev с Gemini при классификации деловых писем. Gemini оказалась немного точнее, но в 10–20 раз дороже. Мудхолкар отметил, что Jev — единственная модель, которая возвращает реальную вероятность, что идеально для автоматизации рабочих процессов.

Jev также может дополнять языковые модели: например, отслеживать их работу и предотвращать взломы. По словам CTO Earendil Армина Ронахера, пользователь сам решает, при какой вероятности доверять результату — например, игнорировать при 50% и использовать при 95%.

Модель названа в честь экономиста Уильяма Стенли Джевонса, чей парадокс описывает, как снижение стоимости товара ведет к росту его использования. Алмейда надеется, что удешевление «интеллекта» приведет к его повсеместному внедрению.

Точная архитектура Jev не раскрывается, но компания называет ее «моделью Системы 1», ориентированной на интуицию, а не на рассуждения. Обучение велось исключительно на синтетических данных с помощью метода «обучения с подкреплением на калиброванных решениях».

Читайте marshryt.by в Google

Добавьте сайт в свои источники — материалы будут чаще попадаться вам в выдаче и в ленте новостей.

Добавить в источники

Последние новости и статьи