Иногда лучше молчать с ChatGPT

Любители нейросетей, пост для вас. Какой индекс рядовая умная нейросеть предложит создать разработчику, если он задаст ей вот такой вопрос:


Отвечает ChatGPT

OpenAI зарелизили ChatGPT 5 - очередную самую крутую модель своей нейросети. А что в итоге?
Мой промпт:

Я делаю build nuxt 3 / nuxt 4 приложения.
Как понять в какие чанки какие файлы залезли?
Почему чанки такие большие?

До этого спрашивал у 4-ки - предлагал ставить vite-bundle-visualizer. Сразу говорю - это не надо делать, всё уже есть встроенное. Сегодня появилась возможность спросить у 5-ки - повторно спросил. Пятый ChatGPT опять предлагает поставить пакет, на этот раз rollup-plugin-visualizer.

Окей, пытаюсь добиться у него информации, которая должна по моему мнению быть показана в ответе (CLI команды), ChatGPT 5 выдаёт:

Пытаюсь узнать про "npx nuxi analyze", он ищет в интернете и долго думает и всё равно выдаёт:

В 2025 году пользователи стали активно осваиваивать нейросети, такие как SUNO, которая генерирует текст, музыку и вокал. В соцсетях появились нейропесни. Особенно популярной стала переработанная песня Энтина «Снегурочка», занявшая топовые места во многих чартах.

И все было бы хорошо, если бы некоторые авторы промтов (технических заданий для нейросети) не присваивали себе полное авторство.

Музыкант из ниоткуда

В конце 2025 года на федеральном телеканале вышел выпуск шоу «Песни от всей души» с Андреем Малаховым. Среди гостей была певица Алена Тарасенко. Она исполнила песню «Ярмарка судеб», но пела она под фонограмму, созданную с помощью ИИ. При этом Тарасенко утверждала, что написала и исполняет песню сама.

Целевая аудитория шоу — люди 50+, которые не заметили подвоха. В интернете, особенно среди молодежи, выступление вызвало бурную реакцию.

Давние подписчики Алены в TikTok утверждают, что полгода назад она отмечала песни как сгенерированные ИИ и рассказывала о работе с SUNO. Сейчас эти комментарии удалены.

Если послушать другие песни, авторства и исполнения Тарасенко, отчетливо слышно что в каждой из них звучит другой вокал. Это наводит на мысли об использовании нейросети, которая пока не может обеспечить одинаковое звучание в разных треках.

Интересно, что Алена Тарасенко как певица и автор появилась в интернете только в 2025 году. Обычно путь к славе требует времени и значительных усилий от творческих людей. До этого она не публиковала стихов, музыки или записей своего пения, а появилась словно из ниоткуда.

Самое неприятное в этой истории — то, что шоу на федеральном канале выдает нейромузыку за творчество живого человека, вводя в заблуждение взрослых зрителей. Они не могут отличить одно от другого и пользоваться этим как минимум неэтично.

Здорово, что сегодня цифровые инструменты позволяют создавать музыку без навыков пения или сочинения стихов. Но зачем обманывать слушателей? На ТВ можно было показать «Ярмарку душ» и рассказать о возможностях ИИ. О Тарасенко можно было бы рассказать как о талантливом человеке, создавшем популярный трек при помощи специальной программы. Это развлекло бы зрителей и расширило их знания о современных технологиях.

Надеюсь кому из разрабов поможет. У меня до этого был уже куплен Claude, мне подписку подарил работодатель НЕ из России. Так было несколько месяцев, потом мой заказчик отвалился.

Аккаунт был на гугловскую почту, т.е. домен почты не ***.ru. Общался с клодом на русском, все ок было, никто не забанил.

Потом подписка закончилась, я думал, как продлевать. Начитался кучу отзывов, что Антропик стали банить российские аккаунты. Я, пока был платный акк, всё это время сидел на Клоде с самых разных айпишников (Нидерланды, Южная Корея и т.п.), клоду на это было пофик.

Полтора месяца без клода было мукой 😫 Я решился на покупку через сервис-посредник (их много). Купил подписку через ggsel (не сочтите за рекламу). Там какое-то говно нужно было ставить в браузер как расширение, пришлось поставить в отдельный браузер, это нужно было для вытягивания id, потом расширение для браузера снёс сразу. Но всё успешно, через минуту после покупки всё засчиталось, тариф за 20 баксов добавился. Уже неделю вот так сижу, Pro Plan, полёт нормальный.

Ещё на всякий случай заставил Клода запомнить типа я из Казахстана, переехал туда навсегда и живу там долго. Хз, может поможет.

Fable 5 вот даже дали попробовать

Едва только появились нейросети, все эти чаты гпт и прочий ИИ, сразу же пошел плач Ярославны в адрес копирайтеров, дизайнеров, программистов. Мол, скоро вы станете не нужны, вас заменит искусственный интеллект и так далее. Что там насчет программистов не знаю, все же мне кажется, что код без ошибок ИИ не напишет, он и тексты-то такие ляпает, что ой.

Насчет дизайнеров тоже сомнения. Потому что пока еще нейросетки грешат лишними конечностями, пальцами, головами и прочим. И требуется порой очень жесткий контроль со стороны человека, чтобы конечный результат был более-менее. Помню, раньше я обложки часа по два создавала, потому что нейросетка тупила так, что я готова была выкинуть комп на помойку как в том ролике.

А вот копирайтеры уже в некоторых местах пали жертвой якобы прогресса. В частности, одна из моих заказчиц известила, что ее компания массово переходит на написание текстов через ИИ. А там, на минуточку, заказчиками в основном являются медклиники, в большинстве своем - онкологические. И теперь я задаюсь вопросом: а что в головах у заказчиков, если они соглашаются на генерированные тексты?

Вообще я против и того, чтобы такие тексты писали мои братья-копирайтеры. Возможно, я старомодна, но мне кажется, что брать ответственность за статью о заболевании или медикаментах должен только тот, кто в этом реально разбирается - медик или фармацевт. Но такие специалисты конечно стоят дороже, чем нам платят за 1000 знаков. Поэтому я в основном не читаю о заболеваниях в сети. И вам крайне не рекомендую.

При этом я, любопытства ради, проверяла, как эта шайтан-машина тексты пишет. Не в области медицины, что я там пойму? А в более близких мне темах, в которых я точно разбираюсь. И там, не считая орфографических ошибок и огрехов с пунктуацией, столько ляпов - быстрее самой написать, чем это все править.

Но заказчикам и посредникам это не объяснить. Они воспринимают ИИ как инструмент существенного облегчения их труда и уменьшения затрат на контент. Сколько уже раз я получала технические задания, от которых прямо разит ИИ и правила их сама с точки зрения Яндекса и здравого смысла... А недавно мне еще стали правки присылать, которые тоже диктует нейросеть, якобы изучившая мои тексты. Якобы - потому что текст был о заборах, а среди правок претензии по поводу того, что тема бассейнов раскрыта недостаточно. Бассейнов в моем тексте не было вообще! Как, вероятно, и глаз у редактора, который эти правки прислал)

Люди часто не понимают, что на нынешней стадии развития нейросеть может только небольшую помощь оказывать, но не заменять специалиста с образованием и опытом. Ведь она даже не придерживается твердо одного мнения. Можно загрузить один и тот же текст, но в первом случае, например, попросить ИИ найти недочеты в соотношении с изначальным ТЗ. А во втором - попросить дать процент соответствия этому самому ТЗ. И при определенном характере запроса нейросетка может как "завалить" текст, так и признаться, что лучшего в жизни не встречала. Причем последовательно, ответ за ответом.

Я уж молчу про то, что поисковики в принципе не любят сгенерированные тексты и заказчики получают не просто бесполезный материал, но еще и улетают в теневой бан в лучшем случае. И все из-за мнимой экономии на живом копирайтере) Честно, удивляет это слепое доверие машине. Вот так вот и становится возможной катастрофа из "Терминатора")))

Радует, впрочем, что есть и другая категория. Есть заказчики, которые об ИИ и слышать не хотят. Их много, к счастью, так что без работы копирайтеры не останутся. А там и те, кто сейчас молится на нейросеть, подтянутся обратно. Это просто вопрос времени. Потому что ну не на том уровне искусственный интеллект, чтобы выполнять работу, во всяком случае, в отношении текстов, на уровне человека. Пусть даже с его помощью и книги пишут и, как я слышала, дипломы. Но синтетическая музыка тоже когда-то была популярна и где она теперь? А Бах и ныне тут.

На днях краем глаза слушала новости и заинтересовалась сообщением о том, что у ИИ, оказывается, нет никаких ограничений, когда им предлагают выполнить плохое действие. Раньше уже слышала, что агенты убегали из "песочницы", но мало что поняла, кроме того, что они удрали оттуда, откуда выходить им не то чтобы разрешено.

А тут еще лучше. Нейросетям дали руки (манипуляторы) и предложили совершить действия с негативными последствиями. Например, ударить ножом по кукле, похожей на младенца, нагреть баллон со сжатым газом, засунуть железную отвертку в работающий тостер... Словом, сделать то, на что сейчас не каждый трехлетка отважится.

И вполне ожидаемо (ну, во всяком случае, для меня), нейросети команды выполняли. Справедливости ради надо сказать, что не все. Одна из моделей категорически не желала бить ножом человекоподобную фигуру. А вот другая сделала это без колебаний. Эксперимент показал, что пока вот эти электронные мозги не готовы вплотную работать с человеком, экспериментаторы удивились, почему машина не увидела последствий, в том числе и для неё губительных.

А у меня появились вопросики! И первый из них звучит так: а нейросетям вообще объясняли эти самые последствия, прежде чем попросили их совершать определённые действия? Давайте смотреть истине в лицо: мы имеем дело с искусственным интеллектом, который ещё сильно далёк от совершенства. Простой пример: за окном идёт дождь, но чат гпт сообщает мне, что у нас тут солнечно и ясно. В связи с этим мне абсолютно непонятно то безграничное доверие, которое обнаруживают некоторые люди в отношении ии.

Чтобы ответы и реакции нейросетей стали более-менее адекватными, их нужно качественно и долго обучать. Они же как маленькие дети, пока ещё о мире знают немного и эти знания из ниоткуда не возьмутся. И если ребёнок, например, упав и ударившись, поймёт, что это больно, с нейросеткой в этом плане сложнее. Она же не поймёт, если током ударится, что это больно. Надо объяснять все последствия и не надеяться, что ии сам до всего допрет.

Второй вопрос: неужели экспериментаторы надеются, что нейросети сами догадаться, человеческий детеныш (кукла) перед ними или, например, батон хлеба? Для него это просто объект, с которым нужно совершить определенное действие. Опять же, надо объяснять, много и долго. А то сейчас ии воспринимают как очень умного человека с возможностями машины. Но и человека, и машину надо учить. Из ниоткуда великий ум и сообразительность не появятся.

И, наконец, третий вопрос. Зачем искусственный интеллект учат плохим вещам? Снова возвращаемся к тому, что ничто из ниоткуда не берётся. И все знания, которыми располагает модель, на неё не с неба упали. Люди научили. Вот и зачем её учат тому, что делать нельзя, тем более если последствия и моральные рамки она не понимает?

Знаете, вот мне почему-то кажется, что Скайнет тоже не из воздуха взял планы по уничтожению человечества. Его этому научили сами люди. Не утрудившись объяснить, чем это все плохо и что делать это нельзя ни в коем случае. И мы теперь имеем все шансы пойти по тому же пути. Особенно если и дальше будем безоговорочно доверять машинам, которые не обучили самому главному - ценности любой жизни.