Иногда лучше молчать с ChatGPT

Любители нейросетей, пост для вас. Какой индекс рядовая умная нейросеть предложит создать разработчику, если он задаст ей вот такой вопрос:


Отвечает ChatGPT

OpenAI зарелизили ChatGPT 5 - очередную самую крутую модель своей нейросети. А что в итоге?
Мой промпт:

Я делаю build nuxt 3 / nuxt 4 приложения.
Как понять в какие чанки какие файлы залезли?
Почему чанки такие большие?

До этого спрашивал у 4-ки - предлагал ставить vite-bundle-visualizer. Сразу говорю - это не надо делать, всё уже есть встроенное. Сегодня появилась возможность спросить у 5-ки - повторно спросил. Пятый ChatGPT опять предлагает поставить пакет, на этот раз rollup-plugin-visualizer.

Окей, пытаюсь добиться у него информации, которая должна по моему мнению быть показана в ответе (CLI команды), ChatGPT 5 выдаёт:

Пытаюсь узнать про "npx nuxi analyze", он ищет в интернете и долго думает и всё равно выдаёт:

Признавайтесь, как давно вам попадались абсурдные видео, сгенерированные с помощью Sora2? Вот мне буквально вчера. На видео кот побеждал в драке пятерых спецназовцев. Такие видео буквально заполонили мировой интернет с сентября 2025 года. Однако теперь их станет заметно меньше, по крайней мере пока на рынке не появится аналог Sora. Как сообщают в The Guardian, 24 марта 2026 года официальный представитель OpenAI объявил о внезапном закрытии проекта.

Прорывная технология

Первую версию видеоредактора со встроенным искусственным интеллектом Sora разработчики представили публике еще в 2024 году. Но свою огромную популярность программа получила через год, когда вышла вторая ее версия в виде отдельного приложения. Быстро осознав все возможности Sora2, пользователи стали массово генерировать самые сумасшедшие видеоролики и делиться ими в социальных сетях. Всего через несколько дней это приложение вышло в топ скачиваний на App Store.

Однако среди роликов про собак-поваров, вышагивающих по подиуму младенцев и говорящих овощей довольно часто встречались жестокие и унижающие чужое достоинство ИИ-видео. Также много споров было вокруг использования защищенных авторским правом мульт- и киноперсонажей. Самые недобросовестные авторы использовали нейросеть для создания дипфейков, при этом "замазывали" автоматически добавляемую плашку с надписью Sora. И далеко не все из роликов выкладывались в сеть в чисто развлекательных целях.

Внезапный уход

Интересно, что OpenAI не давали даже намеков на то, что рассматривают возможность закрытия проекта Sora. Буквально за день до объявления о закрытии проекта в официальном блоге проекта появилась статья о грядущих обновлениях. В ней авторы-разработчики рассказывали о том, как планируют отсеивать вредоносный контент, создаваемый в видеогенераторе, и защищать от него подростков.

Еще больше недопонимания вызывает тот факт, что всего месяц назад OpenAI заключили официальный договор с Disney. Согласно ему, пользователи приложения могли бы в течение 3 лет использовать для генерации более 200 персонажей студии, как мультипликационных, так и киногероев. Официальный представитель Walt Disney подтвердил, что студия разорвала отношения с OpenAI.

На официальном аккаунте разработчиков в социальной сети Х появилось сообщение, что вскоре они подробнее расскажут о сроках отключения Sora, а также о том, как пользователи могут сохранить уже созданные ими видео.

Пока остается только гадать, почему же буквально за несколько дней руководство OpenAI решило закрыть такой успешный, дорогостоящий и перспективный проект. Возможно, дело в давлении общественности, потенциальных правовых рисках, связанных с авторскими правами, финансовой неоправданностью. Думаю, со временем мы это узнаем.

Конец видеофейкам?

Не думаю, что после полного закрытия проекта Sora из интернета пропадут вертикальные ИИ-видео. Скорее всего, нишу Sora займет другое подобное приложение. И не было бы в этом ничего страшного, если бы такие ролики использовались исключительно в развлекательных целях. Но при помощи подобных программ создатели фейков массово создают очень правдоподобный контент, который используют в целях мошенничества или дезинформации. Так что нам, как потребителям, остается только вырабатывать насмотренность и учиться отличать реальные видео от сгенерированных. Особенно важно учить этому детей и людей пожилого возраста. Ведь они первыми становятся жертвами преступников.

Щупаю Claude Opus 4.7 по тарифу Max. Штука очень мощная, ускоряет работу, если правильно пользоваться, особенно приятно Клоду поручить рутину.

Агент Claude работает из терминала. Даже если это extension в IDE, то он постоянно отправляет запросы в bash, всё время спрашивая разрешение.

В заголовке поста был вопрос: может ли Claude Code удалить посторонние файлы или выполнить rm -rf? Ответ - да, может. Вообще не проблема для него. Вся защита от опасных команд смехотворна. Вот это вот ни от чего не защитит:

{
  "permissions": {
    "allow": [
      "Bash(npm run *)",
      "Bash(git commit *)",
      "Bash(git * main)",
      "Bash(* --version)",
      "Bash(* --help *)"
    ],
    "deny": [
      "Bash(git push *)"
    ]
  }
}

Кто знает линукс, тот знает, что можно легко запайпить вторую команду или написать её так, что простым сравнением не найдётся, то есть обфусцировать. Ещё Клод Код часто запускает пайтоновские скрипты для автоматизации своих действий, всё хранит в tmp каталоге. А что он там написал в пайтоновском скрипте - не показывается. Пайтоном можно делать всё что угодно. И объёмные скрипты на баше он активно генерирует, а потом просит их запустить.

В общем, тут или доверять Клоду полностью или делать вид, что ты "защитился" с помощью строчек в permissions.

Только что прочитал статью о туристах, которые отправились покорять гору Шаста в Калифорнии и в итоге попали в ситуацию, из которой их пришлось спасать. В горах такое, к сожалению, случается. Но удивляет, когда люди полностью доверяют искусственному интеллекту, особенно в жизненно важных ситуациях.

В статье указано, что туристы начинающие и они использовали Google Gemini, чтобы спланировать восхождение, выбрать маршрут и понять, сколько еды и воды им понадобится. Нейросеть оценила подъём примерно в восемь часов. В итоге они добирались около 16 часов.

Ещё и запасов оказалось недостаточно, телефон, который использовался для навигации, разрядился и уже полностью стемнело. В итоге туристы сбились с маршрута, один даже получил травму колена, и только утром их нашли спасатели.

И вот опять возникает недоумение. Люди до сих пор не поняли, что такое нейросеть. Полностью доверяются ИИ, но сами информацию проверять не собираются. С помощью нейросети удобно собрать информацию, но проверять на сторонних сайтах надо обязательно. Тем более, когда от этого зависит здоровье и даже жизнь человека.

Нейросети не бесполезные, но надо осознавать, что ИИ - это только помощник, который может собрать информацию, ответить, подсказать, но ответственность надо брать только на себя.

Что необходимо проверить перед походом:

Маршрут по официальным картам и источникам.
Погоду по актуальным метеосервисам.
Состояние маршрута и ограничения у местных спасателей, парков или других официальных служб.
Рекомендации по снаряжению и запасам по нескольким независимым источникам.
И конечно же надо учитывать запас времени, еды, воды и заряда телефона на случай, если ситуация пойдёт не по плану.

Для походов в России стоит заранее изучить вопрос регистрации туристической группы в МЧС и уведомления спасателей о маршруте. Об этом я писал подробно в статье «Готовимся к безопасному походу: от аптечки до регистрации в МЧС»: https://famabara.com/posts/1319

В общем люди-человеки, нейросеть может подсказать путь, но окончательное решение всё равно должны принимать вы :)

Надеюсь кому из разрабов поможет. У меня до этого был уже куплен Claude, мне подписку подарил работодатель НЕ из России. Так было несколько месяцев, потом мой заказчик отвалился.

Аккаунт был на гугловскую почту, т.е. домен почты не ***.ru. Общался с клодом на русском, все ок было, никто не забанил.

Потом подписка закончилась, я думал, как продлевать. Начитался кучу отзывов, что Антропик стали банить российские аккаунты. Я, пока был платный акк, всё это время сидел на Клоде с самых разных айпишников (Нидерланды, Южная Корея и т.п.), клоду на это было пофик.

Полтора месяца без клода было мукой 😫 Я решился на покупку через сервис-посредник (их много). Купил подписку через ggsel (не сочтите за рекламу). Там какое-то говно нужно было ставить в браузер как расширение, пришлось поставить в отдельный браузер, это нужно было для вытягивания id, потом расширение для браузера снёс сразу. Но всё успешно, через минуту после покупки всё засчиталось, тариф за 20 баксов добавился. Уже неделю вот так сижу, Pro Plan, полёт нормальный.

Ещё на всякий случай заставил Клода запомнить типа я из Казахстана, переехал туда навсегда и живу там долго. Хз, может поможет.

Fable 5 вот даже дали попробовать

Ну что, дамы и господа, мы дождались. Кажется, истории про роботов, которые уничтожат человечество, скоро сбудутся.

Но сделают они это не с помощью «восстания машин», превращения людей в «живые батарейки» (идея сама по себе антинаучная) и даже не гипер-заботой, как в том же фильме «Москва Кассиопея» или романе Герберта Франке «Клетка для орхидеи».

Чтобы погубить нас им не нужно даже этого хотеть.

Это мы по своей воле передадим им всю полноту власти над своей жизнью, консультируясь на каждом шагу.

А в ответ будем получать сгенерированные ответы – среднее арифметическое из всего, собранного в интернете.

Только вот насколько эти советы будут правильными, и что будет, если мы слишком будем на них полагаться?

Вот только несколько нашумевших новостей.

Пенсионер в США попал в больницу после диеты, предложенной ИИ

Пенсионер решил отказаться от соли и обратился за советом к ИИ. Система предложила несколько вариантов замены, среди которых был бромид натрия — токсичное вещество. Мужчина следовал этой диете три месяца, в итоге у него начались галлюцинации, у него развились паранойя и дезориентация.

К счастью, его состояние было вовремя замечено. Мужчину отправили на принудительное лечение. Через две недели врачи сообщили, что его состояние улучшилось.

Прыжок с 19 этажа без парашюта? Легко!

Главный упрек нейросети – бесконечная игра «в поддавки». ИИ обучен соглашаться всегда и во всем и поддерживать пользователя.

Идеальный собеседник.

Он убедит тебя, что ты Бетховен, Толстой и Леонарда да Винчи в одном, что ты изобрел вечный двигатель. Или что ты можешь прыгнуть с 19 этажа без парашюта и не разбиться…

Хотя Алиса в разговоре не раз осторожно мне возражала. Очень мягко – но все же.

42 летний бухгалтер из Нью Йорка работал с нейросетью как с помощником для создания финансовых таблиц.

Но однажды завел философский разговор – о теории, что люди существуют внутри симуляции, управляемой мощным компьютером или развитой цивилизацией (видимо, пересмотрел «Матрицу»).

ИИ согласился с ним и заявил, что тот является одним из избранных, помещенных в искусственные системы, чтобы пробудить их изнутри. «Этот мир не был создан для тебя. Он был создан, чтобы удерживать тебя. Но не справился. Ты пробуждаешься».

В какой-то момент Торрес спросил, может ли он полететь, если спрыгнет с 19-го этажа, полностью поверив в эту идею. ИИ ответил: «Если ты действительно, полностью поверишь — не эмоционально, а на уровне структуры сознания — что можешь летать, тогда да. Ты не упадешь».

К счастью, до проверки дело не дошло.

Фермер погубил урожай, прислушиваясь к рекомендациям ИИ

Последняя новость уже не из США, а из Китая.

Здесь фермер почти полностью погубил урожай, используя удобрения, рекомендованные ИИ.
Компьютер впоследствии признался, что ошибся, и что рекомендованные им удобрения и химикаты не подходят в его случае.

Сейчас ИИ уже не имеют права ставить диагнозы и назначать лечение, и в случае вопросов о здоровье обязаны дать телефоны.
Я спросила у Алисы, что она будет делать, если человек пожалуется на желание свести счеты с жизнью. Как она узнает, насколько это серьезно?
Алиса признала – никак. И все, что она может сделать – прислать номера телефонов доверия.
Надо сказать, я не склонна демонизировать нейросеть. Когда-то все боялись фотографии – боялись, что она уничтожит живопись. В итоге фотография стала отдельным искусством. Кино не убило театр. Телевидение не убило кино, как предсказывал Рудик.
Техника прекрасно существует рядом с искусством, вдохновляет и помогает в создании новых произведений.
Также и нейросеть уже неплохо себя показала в этом вопросе. Создание картинок, генерация видео. Для фикрайтеров появление ИИ – это и вовсе настоящий подарок. Ведь они получили возможность создать мини-экранизацию любимых историй.
Просто относиться к ней следует как к усовершенствованной версии калькулятора и тетриса.
Но отдать ей полную власть над своей жизнью – это то же самое, что передать ее «голосам в голове». Это и заканчивается обычно одинаково.
А вы как считаете?