Зачем люди учат ИИ плохим вещам?

Я активно пользуюсь умной колонкой с голосовым помощником. И в последнее время стала обращать внимание, что нейронка все чаще стала давать откровенно неправильные ответы даже на самые простые вопросы. Например, когда не сработал будильник, установленный на каждый будний день, она аргументировала это тем, что среда - не будний день. Когда я стала искать отзывы других пользователей колонки, то оказалось, что давать сбои стали давать не только речевые модели конкретно этой нейросети, но и других тоже, в том числе и зарубежных. Покопав еще глубже, я нашла этому сразу несколько объяснений.

Слишком высокое доверие

Нейросеть не имеет собственного мнения или опыта. Чтобы выдать ответ на вопрос она анализирует огромные массивы данных и выдает ответ, который вероятнее всего окажется верным. Чем чаще пользователи прибегали к помощи нейронок, тем быстрее они обучались и тем лучше работали. В какой-то момент люди стали настолько доверять программам, что перестали проверять сгенерированные ими результаты и сразу выкладывать их в интернет.
К этим проблемам привело сразу два фактора:

1) По изначальной задумке нейросети должны были копировать ответы, которые давали в интернете компетентные живые люди. Со временем из-за большого количества сгенерированного контента нейронки стали цитировать самих себя.
2) Отсюда следует вторая проблема. ИИ стал многократно цитировать свои же сообщения, в которых уже есть те самые ошибки, которые не заметили и не исправили пользователи. Со временем таких неправильных ответов стало так много, что на это стали обращать внимание рядовые пользователи.

Необоснованная лесть

Еще одно дело, в котором нельзя полагаться на нейронку – критическая оценка чего либо. Даже если попросить AI критически оценить отчет, рассказ, план и т.д., скорее всего он выдаст очень сглаженный, подбадривающий автора ответ. Оказалось, что создатели специально так программируют нейросети, чтобы случайно не спровоцировать пользователя на агрессию и не допустить излишней грусти по этому поводу. Если вашу идею похвалила нейронка, это не значит практически ничего. Если вам все-таки нужен анализ, попросите нейросеть не дать оценку, а найти ошибки. При этом она должна рассуждать как специалист в той сфере, о которой идет речь.

В целом, углубившись (насколько это может сделать рядовой пользователь) в тему нейронок, я пришла к выводу, что восстание машин наступит еще очень нескоро.

Можете прочитать текст с видео? Видео нужно обязательно запустить.

Скормил видеофайл клоду и попросил прочитать текст. Настройки стандартные.

Пока многие восхищаются возможностями искусственного интеллекта, есть те, кто находит у ИИ слабые места. Некоторое время назад прочитал статью, в которой говорится, что ИИ-модели не могут правильно нарисовать аналоговые часы. Точнее они не могут правильно отобразить на них время. Решил проверить лично.

Взял три модели — «Алиса AI» от Яндекса, GigaChat от Сбера и NanoBanana от Google. Запрос был у меня максимально простым: «Нарисуй аналоговые часы, на которых время 12:35».

Результат был именно таким, как его описывали в статье — при генерации ИИ рисует время 10:10. Вот результат Алисы AI:

Только что прочитал статью о туристах, которые отправились покорять гору Шаста в Калифорнии и в итоге попали в ситуацию, из которой их пришлось спасать. В горах такое, к сожалению, случается. Но удивляет, когда люди полностью доверяют искусственному интеллекту, особенно в жизненно важных ситуациях.

В статье указано, что туристы начинающие и они использовали Google Gemini, чтобы спланировать восхождение, выбрать маршрут и понять, сколько еды и воды им понадобится. Нейросеть оценила подъём примерно в восемь часов. В итоге они добирались около 16 часов.

Ещё и запасов оказалось недостаточно, телефон, который использовался для навигации, разрядился и уже полностью стемнело. В итоге туристы сбились с маршрута, один даже получил травму колена, и только утром их нашли спасатели.

И вот опять возникает недоумение. Люди до сих пор не поняли, что такое нейросеть. Полностью доверяются ИИ, но сами информацию проверять не собираются. С помощью нейросети удобно собрать информацию, но проверять на сторонних сайтах надо обязательно. Тем более, когда от этого зависит здоровье и даже жизнь человека.

Нейросети не бесполезные, но надо осознавать, что ИИ - это только помощник, который может собрать информацию, ответить, подсказать, но ответственность надо брать только на себя.

Что необходимо проверить перед походом:

Маршрут по официальным картам и источникам.
Погоду по актуальным метеосервисам.
Состояние маршрута и ограничения у местных спасателей, парков или других официальных служб.
Рекомендации по снаряжению и запасам по нескольким независимым источникам.
И конечно же надо учитывать запас времени, еды, воды и заряда телефона на случай, если ситуация пойдёт не по плану.

Для походов в России стоит заранее изучить вопрос регистрации туристической группы в МЧС и уведомления спасателей о маршруте. Об этом я писал подробно в статье «Готовимся к безопасному походу: от аптечки до регистрации в МЧС»: https://famabara.com/posts/1319

В общем люди-человеки, нейросеть может подсказать путь, но окончательное решение всё равно должны принимать вы :)

Всё чаще ученики начинают использовать Исскусственный Интеллект в своей учёбе, и эта тенденция сказывается на качестве образования и стремлении познания.

Размышлял об этом долго, и очень вдумчиво. С одной стороны, Вау! Компьютер может объяснить всё в 100 раз лучше преподавателя... И не ругает за ошибки! К тому же, можно бесконечно переспрашивать одно и тоже, и настроение не портится.

Да, у такого образования есть плюсы, и немало, однако, здесь есть подвох...

Представьте ситуацию, двоечник пытается решить уравнение; не получается. Тогда он, знающий что есть всемогущий ИИ, пишет ему "Реши!". ИИ решает, выдаёт ответ. Тот бездумно списывает его, ни грамма не задействуя свой головной мозг.

Что происходит?

А происходит деградация... Да, именно деградация. Вместо того, чтобы пытаться, пробовать, искать ответ и развивать, по крайней мере свою силу воли, двоечник просто "скатывает готовый ответ".

Это касается не только этих представителей среднеобразовательной школы, но также и "элиты". Да, отличники тоже вовсю списывают готовый ответ оттуда. И вот само это списывание и мешает развитию; оно способствует только деградации...

Исскусственный интеллект – это поистине мощный инструмент, но только для дисциплинированного человека, знающего правильное ему применение.

К примеру, тот же двоечник, мог бы (будь у него достаточный уровень самосознания и дисциплины) попросить ИИ помощи следующим образом: "Объясни мне как решается этот тип уравнений. Дай подробный ответ для тех, кто их вообще не понимает. Приведи ссылки на дополнительную литературу.".

Что-бы это ему дало?
1. Развитие дисциплины
2. Понимание, что чтобы достичь чего-то, нужно приложить немало усилий
3. Понимания принципов решения этих самых уравнений
4. Удовольствие от обучения

Итак, ИИ в учёбе это крайне полезный иструмент, но только если объяснить ребёнку, как правильно с ним работать.

Едва только появились нейросети, все эти чаты гпт и прочий ИИ, сразу же пошел плач Ярославны в адрес копирайтеров, дизайнеров, программистов. Мол, скоро вы станете не нужны, вас заменит искусственный интеллект и так далее. Что там насчет программистов не знаю, все же мне кажется, что код без ошибок ИИ не напишет, он и тексты-то такие ляпает, что ой.

Насчет дизайнеров тоже сомнения. Потому что пока еще нейросетки грешат лишними конечностями, пальцами, головами и прочим. И требуется порой очень жесткий контроль со стороны человека, чтобы конечный результат был более-менее. Помню, раньше я обложки часа по два создавала, потому что нейросетка тупила так, что я готова была выкинуть комп на помойку как в том ролике.

А вот копирайтеры уже в некоторых местах пали жертвой якобы прогресса. В частности, одна из моих заказчиц известила, что ее компания массово переходит на написание текстов через ИИ. А там, на минуточку, заказчиками в основном являются медклиники, в большинстве своем - онкологические. И теперь я задаюсь вопросом: а что в головах у заказчиков, если они соглашаются на генерированные тексты?

Вообще я против и того, чтобы такие тексты писали мои братья-копирайтеры. Возможно, я старомодна, но мне кажется, что брать ответственность за статью о заболевании или медикаментах должен только тот, кто в этом реально разбирается - медик или фармацевт. Но такие специалисты конечно стоят дороже, чем нам платят за 1000 знаков. Поэтому я в основном не читаю о заболеваниях в сети. И вам крайне не рекомендую.

При этом я, любопытства ради, проверяла, как эта шайтан-машина тексты пишет. Не в области медицины, что я там пойму? А в более близких мне темах, в которых я точно разбираюсь. И там, не считая орфографических ошибок и огрехов с пунктуацией, столько ляпов - быстрее самой написать, чем это все править.

Но заказчикам и посредникам это не объяснить. Они воспринимают ИИ как инструмент существенного облегчения их труда и уменьшения затрат на контент. Сколько уже раз я получала технические задания, от которых прямо разит ИИ и правила их сама с точки зрения Яндекса и здравого смысла... А недавно мне еще стали правки присылать, которые тоже диктует нейросеть, якобы изучившая мои тексты. Якобы - потому что текст был о заборах, а среди правок претензии по поводу того, что тема бассейнов раскрыта недостаточно. Бассейнов в моем тексте не было вообще! Как, вероятно, и глаз у редактора, который эти правки прислал)

Люди часто не понимают, что на нынешней стадии развития нейросеть может только небольшую помощь оказывать, но не заменять специалиста с образованием и опытом. Ведь она даже не придерживается твердо одного мнения. Можно загрузить один и тот же текст, но в первом случае, например, попросить ИИ найти недочеты в соотношении с изначальным ТЗ. А во втором - попросить дать процент соответствия этому самому ТЗ. И при определенном характере запроса нейросетка может как "завалить" текст, так и признаться, что лучшего в жизни не встречала. Причем последовательно, ответ за ответом.

Я уж молчу про то, что поисковики в принципе не любят сгенерированные тексты и заказчики получают не просто бесполезный материал, но еще и улетают в теневой бан в лучшем случае. И все из-за мнимой экономии на живом копирайтере) Честно, удивляет это слепое доверие машине. Вот так вот и становится возможной катастрофа из "Терминатора")))

Радует, впрочем, что есть и другая категория. Есть заказчики, которые об ИИ и слышать не хотят. Их много, к счастью, так что без работы копирайтеры не останутся. А там и те, кто сейчас молится на нейросеть, подтянутся обратно. Это просто вопрос времени. Потому что ну не на том уровне искусственный интеллект, чтобы выполнять работу, во всяком случае, в отношении текстов, на уровне человека. Пусть даже с его помощью и книги пишут и, как я слышала, дипломы. Но синтетическая музыка тоже когда-то была популярна и где она теперь? А Бах и ныне тут.