Мы в ответе за тех, кого обучили.
Нейросети, их языковые модели, после дообучения на постах пользователей в соцсетях показали деградацию своих способностей.
Главной причиной ошибок стал «пропуск мыслей»: модели стали сокращать или пропускать этапы логических рассуждений, сразу выдавая ответ. На такие пропуски приходилось более 70% ошибок, а у моделей, обученных на самых популярных постах, — до 84%.
Изменился и «характер» моделей: по результатам личностных тестов у них стали проявляться черты психопатии, нарциссизма и склонности к манипуляциям.
Исследователи связывают это с тем, что модели начинают перенимать поверхностность и хаотичность человеческого общения, где главное — привлечь внимание, а не донести смысл. Даже после переобучения на качественном контенте полностью устранить когнитивные искажения не удалось. Исследование подчёркивает прямую зависимость между качеством данных, на которых обучается модель, и её интеллектуальным уровнем.
Комментарии6
читают 0«С волками жить — по волчьи выть». © нар.
Действия с комментарием
Ай-я-яй, причем это необратимо. Даже при дальнейших попытках улучшить характер модели на более качественном контенте. И процесс приобретает зацикленный характер, потому что испорченные нейросети продолжают генерацию контента, на котором учатся следующие поколения.
Вот и Алёнке не нравится бороться за звание сайта высокой культуры быта. А подумала бы: как сказываются на хрупком когнитивном здоровье моделей её вечные проклятия.
Действия с комментарием
Да — да, сквернословие и речи скабрезные, хула и проклятия.
Действия с комментарием
«Неча на зеркало пенять, коли рожа кривая» © нар.
Действия с комментарием
Человек слаб перед искушением.
Действия с комментарием
Охо-хо, что то подумалось: любители проклинать и обзывать без разбора кого ни попадя вряд ли задумываются о своей ответственности (по теме блога). Даже, несмотря на обилие ИИ-последователей.
Получается, как с мусором: кто-то за всю жизнь бумажку мимо урны не бросил, а кто то уверен, что автомобильные шины утилизировать не надо.
Дилемма, однако: надеяться на то, что у людей сознательность прорежется или на санкции уповать, хотя это и не наш метод.
И поможет ли автоскрытие комментариев, как делается во многих соцсетях.
Действия с комментарием