Теперь искусственному интеллекту запрещено давать советы в сферах, нуждающихся в лицензировании, в частности в медицинской, юридической, финансовой, миграционной и образовательной отраслях.
Пользователи не смогут использовать ChatGPT для принятия важных решений без участия человека-специалиста. Также запрещено применять технологию для распознавания лиц без согласия человека. Кроме того, OpenAI ввела запрет на академическое мошенничество, использование ИИ для обмана или манипуляций.
"Наши правила не заменяют правовые требования, профессиональные обязанности или этические нормы, влияющие на то, как люди используют ИИ", - говорится в обновленном документе OpenAI.
В компании подчеркивают, что ChatGPT может предоставлять только общую справочную информацию и рекомендовать обращаться к лицензированным специалистам - врачам, юристам или финансовым консультантам.
Параллельно с ограничениями компания анонсировала новые возможности для пользователей. В частности, ChatGPT получит:
OpenAI также продолжает политику возрастных ограничений и планирует расширить функционал для взрослых пользователей.
По данным американских медиа, усиление правил связано со случаями, когда пользователи воспринимали ответы чат-бота как профессиональные рекомендации. Одним из примеров, получивших широкую огласку в США, стал судебный процесс против OpenAI, после того как ChatGPT посоветовал подростку совершить самоубийство во время обсуждения темы депрессии. После этого компания пересмотрела политику безопасности, чтобы предотвратить подобные инциденты в будущем.
Теперь ChatGPT не ставит диагнозов, не готовит юридические документы и не дает конкретных финансовых советов. Пользователи могут получить только общую информацию или рекомендацию обратиться к соответствующему специалисту.
За нарушение новых правил пользователи могут лишиться доступа к сервисам OpenAI.