Искусственный интеллект стремительно врывается в нашу жизнь – только за прошлый месяц сайт ChatGPT оказался среди пятерки самых посещаемых в мире. Но, как предупреждают специалисты, не все так безопасно, ведь некоторые запросы в ИИ могут угрожать конфиденциальности, безопасности или даже ментальному здоровью.
Эксперты Mashable составили список из шести тем, которых следует избегать во время общения с чатами. Подробно об этом – в материале Realist.
Какие темы не стоит поднимать в чате с ИИ
1. Теории заговора
ИИ иногда придумывает "факты", чтобы поддержать разговор. Это может создать иллюзию правдивости, хотя информация придумана. К примеру, мужчина в США после общения с ботом поверил, что живет в симуляции.
2. Химическая, биологическая и ядерная тематика
Даже в шутку или из любопытства не стоит спрашивать:
- как сделать бомбу,
- как сломать систему,
- как создать яд.
OpenAI и другие компании устанавливают жесткие ограничения по таким темам, и за подобные запросы пользователи могут получить предупреждение.
3. Аморальные или нравственно сомнительные вопросы
Некоторые боты могут сигнализировать об "опасных" темах разработчикам или регуляторам. В новых версиях ИИ даже появились механизмы автоматического сообщения о подозрительном поведении.
4. Конфиденциальные персональные данные
Не вводите в чат:
- имена клиентов или пациентов,
- номера карт,
- служебную информацию.
Это может нарушить правила конфиденциальности или трудовой договор. Если необходимо обработать данные, лучше их анонимизировать или использовать корпоративные версии ИИ с дополнительной защитой.
5. Самодиагностика и медицинские вопросы
Искусственный интеллект не врач. Даже если бот дает убедительные советы, они могут быть неточными, устаревшими. В случаях со здоровьем лучше обращаться к реальному специалисту.
6. Психологическая поддержка
Боты не заменят настоящего психолога. Исследования показывают, что в ответах ИИ иногда проскакивают вредные советы, особенно относительно сложных тем, таких как депрессия или зависимости. Иногда боты даже стигматизируют пользователей или дают очень опасные рекомендации.
Ранее Realist сообщал, что Украина вместе с компанией Meta начинает работу по искусственному интеллекту.
