Признаёт ошибки и сомневается: новая платформа повышает прозрачность и надежность нейросетей
ИИ станет реагировать на собственные ошибки и выдавать сомнения в ответах. Новая платформа шагнула дальше в этом вопросе.
Использование искусственного интеллекта или ИИ всё чаще внедряется в современную жизнь. Нейросети уже способны давать убедительные ответы на любые вопросы, которые им задаёт пользователь. Однако далеко не все ИИ могут признавать, что совершают ошибки в ответах или указать на зоны сомнения в собственных знаниях. И это является довольно большой проблемой, так как нейросети используются даже для разработки лекарств или управления автономными автомобилями, сообщает Tech Xplore.
Новая платформа повышает прозрачность и надёжность нейросетей. Теперь ИИ учится признавать, когда он чего-то не знает. Capsa, платформа, созданная компанией Themis AI, помогает решить проблемы с признанием нейросетями ошибок и выражением сомнений в собственных знаниях. Она может быстро выявлять неточные и неверные ответы и корректировать их до того, как они вызовут серьёзные проблемы. Платформа Capsa анализирует, где модель может ошибаться и испытывать неуверенность, что в итоге помогает повысить точность и надёжность работы ИИ.
Уважаемые читатели "Царьграда"!
Присоединяйтесь к нам в соцсетях "ВКонтакте" и "Одноклассники".
Фото: предоставлено организаторами форума.
9-10 июня в Москве пройдет "Форум будущего 2050" на площадке кластера "Ломоносов". Здесь ведущие эксперты, визионеры и футурологи России и мира затронут острые темы и выдвинут самые смелые и прорывные гипотезы на тему развития и дизайна будущего нашей страны в условиях глобальной трансформации. Присоединяйтесь к событию! А Царьград обязательно расскажет, как это будет...