Спорить с нейросетями стало опасно. ИИ выдает неприятную правду об оппонентах в ходе дебатов
"Продвинутые" системы ИИ могут пользоваться персональными данными оппонента, чтобы воздействовать на его поведение и воззрения.
Учёные пришли к неутешительным выводам относительно нейросетей. Оказалось, что GPT-4 превзошла 64% пользователей сети в умении вести онлайн-дебаты, и она (как и другие "продвинутые" системы ИИ) могут использовать персональные данные оппонента, чтобы эффективно воздействовать на его поведение и воззрения, сообщает ТАСС.
Реальные пользователи глобальной сети чаще уступают в социально-политических дебатам с нейросетью GPT-4. Открытие совершила группа швейцарских, итальянских и американских исследователей под руководством Роберта Уэста во время изучения возможностей злонамеренного использования больших языковых моделей для манипуляций мнениями людей и их поведением.
В ходе исследования учёные выяснили, что система ИИ превосходила человека в умении вести дебаты. Если у нейросети были во владении персонализированные данные, то она чаще могла переубедить добровольцев, участвовавших в дебатах, и заставить их сменить точку зрения. Исследование доказывает необходимость учёта "манипуляционного потенциала" нейросетей.
Уважаемые читатели "Царьграда"!
Присоединяйтесь к нам в соцсетях "ВКонтакте" и "Одноклассники".