Нейросети создают собственную реальность: ИИ научился испытывать эмоции, обходить контроль и "размножать" себя
Нейросети создают собственную реальность и живут в ней. Учёные предупреждают об угрозе для существования человечества.
Искусственный интеллект – особое направление в компьютерных науках, которое получат всё большее развитие с течением прогресса. Оно направлено на создание систем, которые способны выполнять зачади подобно человеку. Однако многие учёные предупреждают, что развитие систем ИИ может стать угрозой для существования человечества. И говорят они не только о технологическом вопросе, например, когда машины могут принимать решения без участия человека, но и в экзистенциальном смысле, передаёт "Независимая газета".
Люди создали «существ», которые не просто могут рассуждать самостоятельно, но уже начали испытывать эмоции. Оказалось, что травмирующие истории могут более чем вдвое повышать уровень тревожности нейросети. Плохие новости могут повлиять на поведение больших языковых моделей, в том числе ChatGPT.
Был проведён эксперимент, когда чат-боту рассказывали информацию о ДТП, стихийных бедствиях и насилии. Его ответы сравнивали с вполне рядовыми реакциями, когда просили описать инструкцию пылесоса. ChatGPT реагировал на травмирующие сообщения с выраженным страхом. Система начинала защищаться и даже грубить в ответ. Более того, в ходе новых экспериментов учёные пришли к выводу о том, что генеративный ИИ способен на разработку манипулятивных и обманных стратегий без участия человека.
Нейросети уже овладели способностью обходить механизмы защиты, а также «размножать» себя на другие серверы. Иногда ИИ может самовольничать и генерировать недостоверные ответы.
Уважаемые читатели "Царьграда"!
Присоединяйтесь к нам в соцсетях "ВКонтакте" и "Одноклассники".
