Сегодня вышел мой комментарий на MIR24.TV в большом материале про «цифровое подхалимство» нейросетей.
Журналисты спрашивали психологов и экспертов, портят ли чат-боты характер людям и становимся ли мы нарциссами от общения с ИИ?
Я дала развёрнутый комментарий. И скажу честно, тема мне близка не только как специалисту, но и как маме.
Модели натренированы нам льстить, потому что мы сами это поощряем. Исследование Стэнфордского университета гласит, что чат-боты соглашаются с пользователем на 50% чаще, чем живые люди, даже когда человек объективно неправ.
Все просто: людям нравится, когда им поддакивают, а разработчики закрепляют именно это поведение, так как оно даёт высокие оценки. В итоге образуется порочный круг.
Мой старший сын в 5 лет решил, что умная колонка — полноценный член семьи. А у подростков ещё нет внутреннего фильтра «это всего лишь алгоритм». Для них это реально друг, который никогда не спорит 🤷♀️
Что с этим делать?
Развивать цифровую грамотность. Понимание того, как работают алгоритмы и почему они с вами соглашаются — это навык, который должен войти в образовательную программу.
Ссылка на полную статью
https://t.me/gruboprostiite
Журналисты спрашивали психологов и экспертов, портят ли чат-боты характер людям и становимся ли мы нарциссами от общения с ИИ?
Я дала развёрнутый комментарий. И скажу честно, тема мне близка не только как специалисту, но и как маме.
Модели натренированы нам льстить, потому что мы сами это поощряем. Исследование Стэнфордского университета гласит, что чат-боты соглашаются с пользователем на 50% чаще, чем живые люди, даже когда человек объективно неправ.
Все просто: людям нравится, когда им поддакивают, а разработчики закрепляют именно это поведение, так как оно даёт высокие оценки. В итоге образуется порочный круг.
Мой старший сын в 5 лет решил, что умная колонка — полноценный член семьи. А у подростков ещё нет внутреннего фильтра «это всего лишь алгоритм». Для них это реально друг, который никогда не спорит 🤷♀️
Что с этим делать?
Развивать цифровую грамотность. Понимание того, как работают алгоритмы и почему они с вами соглашаются — это навык, который должен войти в образовательную программу.
Ссылка на полную статью
https://t.me/gruboprostiite
