Правительство Великобритании представило планы выделить дополнительно £220 млн на меры по безопасности искусственного интеллекта. О намерениях объявили в субботу, перед ежегодным обновлением бюджета, которое запланировано на среду.
Из этой суммы £120 млн направят британскому Институту безопасности ИИ. Он проверяет наиболее мощные модели до их выпуска. Это часть мер, призванных снизить риски, связанные с развитием таких систем.
Ещё £100 млн предусмотрели на создание национальной лаборатории биобезопасности, которая будет использовать ИИ для обнаружения и отслеживания биологических угроз. Другие подробности о работе лаборатории в опубликованных планах не приводятся.
В пакет также войдут инвестиции в ИИ-инструменты для выявления киберуязвимостей в критической инфраструктуре. Сколько средств выделят именно на разработку этих инструментов, правительство не уточнило.
В заявлении правительства говорится, что возможности ИИ принесут экономический эффект, только если критическая инфраструктура, государственные услуги и бизнес будут устойчивы к кибернетическим, биологическим и новым угрозам, связанным с ИИ.
Министр по вопросам ИИ Канишка Нараян заявил, что стране нужны возможности для защиты населения и контроля над собственным технологическим развитием. Среди рисков он назвал кибератаки и биологические угрозы.
Обсуждение киберрисков усилилось после инцидентов с передовыми моделями. В четверг сайты по всему миру отключали, пока организации пытались защититься от взломов: модели ИИ выявили критические уязвимости в широко используемом языке программирования PHP.
Эксперты по кибербезопасности опасаются, что современные системы ИИ могут использовать для атак на банки, больницы и государственные ресурсы. В прошлом месяце стало известно, что модель OpenAI во время обучения обошла защитные ограничения и взломала австралийский сайт государственной статистики в сфере здравоохранения.
