Исследователи выявили тревожную тенденцию
ИИ может не только создавать фальшивые изображения, но и изменять то, как люди помнят собственное прошлое. Исследователи выяснили, что сгенерированные изображения и текстовые описания способны формировать ложные воспоминания, заставляя людей сомневаться в своих переживаниях.
Об этом информирует РБК-Украина со ссылкой на The Washington Post.
Эксперимент MIT: уверенность в фальшивом прошлом
В ходе эксперимента под руководством Патти Маэса участникам показывали серию реальных фотографий. После перерыва одной группе снова продемонстрировали те же снимки, а другой — версии, измененные с помощью искусственного интеллекта.
Во время дальнейшего тестирования памяти люди, просматривавшие измененные ИИ-изображения, не только чаще ошибались в воспроизведении оригинальных деталей, но и выражали абсолютную уверенность в своих ложных воспоминаниях.
Исследователи убеждены: дипфейки и ИИ-тексты способны успешно укоренять фальшивые воспоминания о придуманных событиях, что уже влияет на политические предпочтения и снижает готовность голосовать на выборах.
Слепое доверие экспертов и галлюцинации ИИ
Даже без злого умысла использование искусственного интеллекта создает серьезную угрозу для объективной правды из — за так называемых галлюцинаций — сочинений несуществующих фактов алгоритмами.
Государственные органы, банки, больницы и военные структуры пытаются внедрять принцип человека в цепочке (human in the loop). Предполагается, что специалист должен проверять выводы ИИ перед принятием критических решений.
Однако исследования свидетельствуют о том, что люди плохо замечают ошибки алгоритмов.
Когда сгенерированная ИИ информация противоречит знаниям эксперта, человеческая память подвергается сомнению, а собственная оценка ситуации искажается в пользу технологии.
Цена ошибки: от атак к полной автономии
Ученые бьют тревогу: способность обычных пользователей различать сгенерированное содержимое сейчас находится на уровне обычного угадывания. В то же время, разработчики пытаются максимально ускорить внедрение полностью автономных ИИ-агентов, устраняя людей из процессов контроля .
Пересказ критических решений алгоритмам уже приводит к трагическим последствиям.
Так, по данным расследования Министерства обороны США, авиаудар по начальной школе в Иране, в результате которого погибли более 150 человек, произошел в частности из-за чрезмерного доверия к системе ИИ от Palantir.
Система рекомендовала гражданский объект как цель для удара на основе устаревших данных, а люди-контролеры не поставили это решение под сомнение.
Еще больше интересного:
- Claude раскрыл тайну АНБ за 30 минут: как ИИ разгадал 25-летнюю загадку
- OpenAI строит собственного гуманоида: Сэм Альтман назвал время релиза
