Google Research 4 ноября представила Agile Deliberation — фреймворк для обучения ИИ-классификаторов на субъективных категориях. Вместо заранее заданных правил система помогает человеку уточнять границы понятий в процессе диалога.
Традиционное машинное обучение работает с объективными классами: знак «стоп» или золотистый ретривер не вызывают споров. Но распознавание «здоровой еды», «вдохновляющего искусства» или контента для модерации зависит от культурного контекста и меняющихся правил.
Agile Deliberation разбивает задачу на два этапа. Сначала пользователь делит широкое понятие на подкатегории и исключения. Например, «здоровую еду» можно разложить на «салаты», «зерновые боулы» и «нежирные белки», а также исключить «обработанные продукты» и «сырые ингредиенты».
Затем система переходит к итерациям. Визуально-языковые модели находят пограничные изображения, которые заставляют человека уточнять свои намерения. Пример: смузи из фруктов может быть и здоровым напитком, и обработанным продуктом с высоким содержанием сахара — решение остается за пользователем.
Google Research провела 18 живых сессий по 1,5 часа с реальными участниками. Agile Deliberation снизила утомляемость и тревожность людей, заменив ручную настройку промптов на прямую обратную связь по спорным изображениям. Итоговые модели оказались точнее базовых аналогов.
Код и алгоритмы опубликованы на GitHub. Для разработчиков в области компьютерного зрения и анализа данных это инструмент, который убирает необходимость заранее прописывать все правила для нечетких классов.
