OpenAI вчера объявила о партнерстве с некоммерческой организацией Common Sense Media для создания системы безопасного использования инструментов OpenAI для детей и родителей. OpenAI и Common Sense Media будут работать над созданием «маркировки безопасности» контекста, в котором работают ИИ. Также они выпустят образовательные методички для родителей, преподавателей и студентов о безопасном и ответственном использовании инструментов ИИ.
Impact Research по заказу Common Sense Media в конце прошлого года провел опрос. Его результат показал, что 58% из числа опрошенных среди учащихся в возрасте от 12 до 18 лет использовали ChatGPT. При этом только 30% родителей пользуют ИИ.
При этом инструменты OpenAI, как и все GenAI, часто неверно истолковывать факты и «галюцинируют». Нужно понимать: то, что выдает ChatGPT, сильно зависит от данных, которые использовались для обучения.
Не замедлила себя ждать и официальная реакция регулирующих органов. Федеральная торговая комиссия США в прошлом году инициировала расследование в отношении OpenAI. Цель расследования — выяснить, не наносит ли ChatGPT вред потребителям путем сбора личных данных и публикации ложных заявлений. Европейские органы также официально выразили обеспокоенность по поводу обработки информации OpenAI.
В результате было принято решение договориться о партнерстве между OpenAI и Common Sense и направить совместные усилия на исправление ситуации путем создания системы безопасного использования ИИ. Для этого разрабатывается «маркировка» приложений ИИ, чтобы было видно области потенциально неприемлемых и вредных концепций. Компания через это партнерство надеется получить доверие населения и политиков к инструментам OpenAI.