В OpenAI анонсировали запуск фонда на 10 грантов по $100 000 на создание прототипов демократического процесса управления ИИ.
Что известно
OpenAI, разработчик ChatGPT, выделит 10 грантов по $100 тыс. людям или компаниям для финансирования экспериментов по созданию демократического процесса принятия решений о том, каким правилам должны следовать системы ИИ. Конечные цели – установить адекватный надзор за «сверхразумом», защитить людей от фейков и предвзятости ИИ (возникающей, например, из-за расистских или сексистских входных данных).
Почему это важно
Запуск программы грантов произошел после призывов OpenAI к созданию международного регулирующего органа для ИИ, подобного тому, который регулирует ядерную энергетику. В своем предложении о создании такого органа соучредители OpenAI Сэм Альтман, Грег Брокман и Илья Суцкевер утверждали, что темпы инноваций в области ИИ настолько высоки, что человечество не может ожидать от существующих органов власти адекватного контроля над технологиямию
Именно для этого нужно получить ответы на вопросы: как далеко может зайти персонализация ИИ, имеет ли он право судить о политиках или давать медицинские, финансовые, юридические консультации, какова должна быть этика создания изображений, должны ли ответы ИИ о правах человека меняться в зависимости от страны и т.д.