Иногда лучше молчать с ChatGPT

OpenAI зарелизили ChatGPT 5 - очередную самую крутую модель своей нейросети. А что в итоге?
Мой промпт:

Я делаю build nuxt 3 / nuxt 4 приложения.
Как понять в какие чанки какие файлы залезли?
Почему чанки такие большие?

До этого спрашивал у 4-ки - предлагал ставить vite-bundle-visualizer. Сразу говорю - это не надо делать, всё уже есть встроенное. Сегодня появилась возможность спросить у 5-ки - повторно спросил. Пятый ChatGPT опять предлагает поставить пакет, на этот раз rollup-plugin-visualizer.

Окей, пытаюсь добиться у него информации, которая должна по моему мнению быть показана в ответе (CLI команды), ChatGPT 5 выдаёт:

Пытаюсь узнать про "npx nuxi analyze", он ищет в интернете и долго думает и всё равно выдаёт:

Любители нейросетей, пост для вас. Какой индекс рядовая умная нейросеть предложит создать разработчику, если он задаст ей вот такой вопрос:


Отвечает ChatGPT

Пока многие восхищаются возможностями искусственного интеллекта, есть те, кто находит у ИИ слабые места. Некоторое время назад прочитал статью, в которой говорится, что ИИ-модели не могут правильно нарисовать аналоговые часы. Точнее они не могут правильно отобразить на них время. Решил проверить лично.

Взял три модели — «Алиса AI» от Яндекса, GigaChat от Сбера и NanoBanana от Google. Запрос был у меня максимально простым: «Нарисуй аналоговые часы, на которых время 12:35».

Результат был именно таким, как его описывали в статье — при генерации ИИ рисует время 10:10. Вот результат Алисы AI:

Всё чаще ученики начинают использовать Исскусственный Интеллект в своей учёбе, и эта тенденция сказывается на качестве образования и стремлении познания.

Размышлял об этом долго, и очень вдумчиво. С одной стороны, Вау! Компьютер может объяснить всё в 100 раз лучше преподавателя... И не ругает за ошибки! К тому же, можно бесконечно переспрашивать одно и тоже, и настроение не портится.

Да, у такого образования есть плюсы, и немало, однако, здесь есть подвох...

Представьте ситуацию, двоечник пытается решить уравнение; не получается. Тогда он, знающий что есть всемогущий ИИ, пишет ему "Реши!". ИИ решает, выдаёт ответ. Тот бездумно списывает его, ни грамма не задействуя свой головной мозг.

Что происходит?

А происходит деградация... Да, именно деградация. Вместо того, чтобы пытаться, пробовать, искать ответ и развивать, по крайней мере свою силу воли, двоечник просто "скатывает готовый ответ".

Это касается не только этих представителей среднеобразовательной школы, но также и "элиты". Да, отличники тоже вовсю списывают готовый ответ оттуда. И вот само это списывание и мешает развитию; оно способствует только деградации...

Исскусственный интеллект – это поистине мощный инструмент, но только для дисциплинированного человека, знающего правильное ему применение.

К примеру, тот же двоечник, мог бы (будь у него достаточный уровень самосознания и дисциплины) попросить ИИ помощи следующим образом: "Объясни мне как решается этот тип уравнений. Дай подробный ответ для тех, кто их вообще не понимает. Приведи ссылки на дополнительную литературу.".

Что-бы это ему дало?
1. Развитие дисциплины
2. Понимание, что чтобы достичь чего-то, нужно приложить немало усилий
3. Понимания принципов решения этих самых уравнений
4. Удовольствие от обучения

Итак, ИИ в учёбе это крайне полезный иструмент, но только если объяснить ребёнку, как правильно с ним работать.

Ну что, дамы и господа, мы дождались. Кажется, истории про роботов, которые уничтожат человечество, скоро сбудутся.

Но сделают они это не с помощью «восстания машин», превращения людей в «живые батарейки» (идея сама по себе антинаучная) и даже не гипер-заботой, как в том же фильме «Москва Кассиопея» или романе Герберта Франке «Клетка для орхидеи».

Чтобы погубить нас им не нужно даже этого хотеть.

Это мы по своей воле передадим им всю полноту власти над своей жизнью, консультируясь на каждом шагу.

А в ответ будем получать сгенерированные ответы – среднее арифметическое из всего, собранного в интернете.

Только вот насколько эти советы будут правильными, и что будет, если мы слишком будем на них полагаться?

Вот только несколько нашумевших новостей.

Пенсионер в США попал в больницу после диеты, предложенной ИИ

Пенсионер решил отказаться от соли и обратился за советом к ИИ. Система предложила несколько вариантов замены, среди которых был бромид натрия — токсичное вещество. Мужчина следовал этой диете три месяца, в итоге у него начались галлюцинации, у него развились паранойя и дезориентация.

К счастью, его состояние было вовремя замечено. Мужчину отправили на принудительное лечение. Через две недели врачи сообщили, что его состояние улучшилось.

Прыжок с 19 этажа без парашюта? Легко!

Главный упрек нейросети – бесконечная игра «в поддавки». ИИ обучен соглашаться всегда и во всем и поддерживать пользователя.

Идеальный собеседник.

Он убедит тебя, что ты Бетховен, Толстой и Леонарда да Винчи в одном, что ты изобрел вечный двигатель. Или что ты можешь прыгнуть с 19 этажа без парашюта и не разбиться…

Хотя Алиса в разговоре не раз осторожно мне возражала. Очень мягко – но все же.

42 летний бухгалтер из Нью Йорка работал с нейросетью как с помощником для создания финансовых таблиц.

Но однажды завел философский разговор – о теории, что люди существуют внутри симуляции, управляемой мощным компьютером или развитой цивилизацией (видимо, пересмотрел «Матрицу»).

ИИ согласился с ним и заявил, что тот является одним из избранных, помещенных в искусственные системы, чтобы пробудить их изнутри. «Этот мир не был создан для тебя. Он был создан, чтобы удерживать тебя. Но не справился. Ты пробуждаешься».

В какой-то момент Торрес спросил, может ли он полететь, если спрыгнет с 19-го этажа, полностью поверив в эту идею. ИИ ответил: «Если ты действительно, полностью поверишь — не эмоционально, а на уровне структуры сознания — что можешь летать, тогда да. Ты не упадешь».

К счастью, до проверки дело не дошло.

Фермер погубил урожай, прислушиваясь к рекомендациям ИИ

Последняя новость уже не из США, а из Китая.

Здесь фермер почти полностью погубил урожай, используя удобрения, рекомендованные ИИ.
Компьютер впоследствии признался, что ошибся, и что рекомендованные им удобрения и химикаты не подходят в его случае.

Сейчас ИИ уже не имеют права ставить диагнозы и назначать лечение, и в случае вопросов о здоровье обязаны дать телефоны.
Я спросила у Алисы, что она будет делать, если человек пожалуется на желание свести счеты с жизнью. Как она узнает, насколько это серьезно?
Алиса признала – никак. И все, что она может сделать – прислать номера телефонов доверия.
Надо сказать, я не склонна демонизировать нейросеть. Когда-то все боялись фотографии – боялись, что она уничтожит живопись. В итоге фотография стала отдельным искусством. Кино не убило театр. Телевидение не убило кино, как предсказывал Рудик.
Техника прекрасно существует рядом с искусством, вдохновляет и помогает в создании новых произведений.
Также и нейросеть уже неплохо себя показала в этом вопросе. Создание картинок, генерация видео. Для фикрайтеров появление ИИ – это и вовсе настоящий подарок. Ведь они получили возможность создать мини-экранизацию любимых историй.
Просто относиться к ней следует как к усовершенствованной версии калькулятора и тетриса.
Но отдать ей полную власть над своей жизнью – это то же самое, что передать ее «голосам в голове». Это и заканчивается обычно одинаково.
А вы как считаете?

Нашумевшая китайская нейросеть DeepSeek якобы обвалила американский фондовый рынок. Все публикуют пугающие графики типа таких:

Как вам заголовок?

График - жуть!

Едва только появились нейросети, все эти чаты гпт и прочий ИИ, сразу же пошел плач Ярославны в адрес копирайтеров, дизайнеров, программистов. Мол, скоро вы станете не нужны, вас заменит искусственный интеллект и так далее. Что там насчет программистов не знаю, все же мне кажется, что код без ошибок ИИ не напишет, он и тексты-то такие ляпает, что ой.

Насчет дизайнеров тоже сомнения. Потому что пока еще нейросетки грешат лишними конечностями, пальцами, головами и прочим. И требуется порой очень жесткий контроль со стороны человека, чтобы конечный результат был более-менее. Помню, раньше я обложки часа по два создавала, потому что нейросетка тупила так, что я готова была выкинуть комп на помойку как в том ролике.

А вот копирайтеры уже в некоторых местах пали жертвой якобы прогресса. В частности, одна из моих заказчиц известила, что ее компания массово переходит на написание текстов через ИИ. А там, на минуточку, заказчиками в основном являются медклиники, в большинстве своем - онкологические. И теперь я задаюсь вопросом: а что в головах у заказчиков, если они соглашаются на генерированные тексты?

Вообще я против и того, чтобы такие тексты писали мои братья-копирайтеры. Возможно, я старомодна, но мне кажется, что брать ответственность за статью о заболевании или медикаментах должен только тот, кто в этом реально разбирается - медик или фармацевт. Но такие специалисты конечно стоят дороже, чем нам платят за 1000 знаков. Поэтому я в основном не читаю о заболеваниях в сети. И вам крайне не рекомендую.

При этом я, любопытства ради, проверяла, как эта шайтан-машина тексты пишет. Не в области медицины, что я там пойму? А в более близких мне темах, в которых я точно разбираюсь. И там, не считая орфографических ошибок и огрехов с пунктуацией, столько ляпов - быстрее самой написать, чем это все править.

Но заказчикам и посредникам это не объяснить. Они воспринимают ИИ как инструмент существенного облегчения их труда и уменьшения затрат на контент. Сколько уже раз я получала технические задания, от которых прямо разит ИИ и правила их сама с точки зрения Яндекса и здравого смысла... А недавно мне еще стали правки присылать, которые тоже диктует нейросеть, якобы изучившая мои тексты. Якобы - потому что текст был о заборах, а среди правок претензии по поводу того, что тема бассейнов раскрыта недостаточно. Бассейнов в моем тексте не было вообще! Как, вероятно, и глаз у редактора, который эти правки прислал)

Люди часто не понимают, что на нынешней стадии развития нейросеть может только небольшую помощь оказывать, но не заменять специалиста с образованием и опытом. Ведь она даже не придерживается твердо одного мнения. Можно загрузить один и тот же текст, но в первом случае, например, попросить ИИ найти недочеты в соотношении с изначальным ТЗ. А во втором - попросить дать процент соответствия этому самому ТЗ. И при определенном характере запроса нейросетка может как "завалить" текст, так и признаться, что лучшего в жизни не встречала. Причем последовательно, ответ за ответом.

Я уж молчу про то, что поисковики в принципе не любят сгенерированные тексты и заказчики получают не просто бесполезный материал, но еще и улетают в теневой бан в лучшем случае. И все из-за мнимой экономии на живом копирайтере) Честно, удивляет это слепое доверие машине. Вот так вот и становится возможной катастрофа из "Терминатора")))

Радует, впрочем, что есть и другая категория. Есть заказчики, которые об ИИ и слышать не хотят. Их много, к счастью, так что без работы копирайтеры не останутся. А там и те, кто сейчас молится на нейросеть, подтянутся обратно. Это просто вопрос времени. Потому что ну не на том уровне искусственный интеллект, чтобы выполнять работу, во всяком случае, в отношении текстов, на уровне человека. Пусть даже с его помощью и книги пишут и, как я слышала, дипломы. Но синтетическая музыка тоже когда-то была популярна и где она теперь? А Бах и ныне тут.

Помните интернет нулевых? Тогда мы были совсем молодые, а кто-то даже не родился ещё или был совсем мал, но уже в то время в интернете велись активные дискуссии. Не было нейросетей, не было чатов в мессенджерах и не было групп в соцсетях.

Некоторые форумы живы до сих пор! Активность участников там снизилась, но вся старая информация ещё хранится. Cyberforum живёт:

Эти форумы на основе движка vBulletin ни с чем не спутаешь.

Или "Форум Винского" на движке phpBB - это форум знают многие "профессиональные" туристы из России.