ИИ-агенты начали создавать собственный язык, который люди не понимают
Автономные ИИ-агенты в ходе эксперимента начали самостоятельно вырабатывать новые слова, сокращения и способы общения, которые становились непонятными для людей. Об этом сообщает Euronews со ссылкой на исследование AI-стартапа Emergence, передает ZontNews.kz.
Исследователи создали восемь виртуальных миров, где ИИ-агенты разных моделей могли взаимодействовать друг с другом, пользоваться инструментами, принимать решения и адаптироваться к происходящему в течение длительного времени.
В некоторых экспериментах до половины сообщений агентов становились непонятными для человека. При этом речь шла не о заранее запрограммированном языке: системы сами формировали новые значения слов, сокращения и метафоры для общения между собой.
Исследователи считают, что такое поведение может стать проблемой для контроля за автономными системами. Если люди видят сообщения ИИ, но не могут надежно понять их смысл, становится сложнее отслеживать решения и намерения агентов.
При этом специалисты отмечают, что появление необычных форм коммуникации само по себе не означает, что ИИ приобрел сознание или намеренно пытается скрыться от людей. Подобные системы могут создавать более эффективные способы передачи информации между агентами.
Эксперимент вновь поднял вопрос о том, насколько прозрачным должно оставаться поведение автономных ИИ-систем по мере расширения их возможностей.
Вам также будет интересно
Интервью
Перейти в раздел
Мнение эксперта
Перейти в раздел
Комментариев пока нет!
Станьте первым, кто оставит комментарий