Post B5LcGdjCwSZjpZ6Qwi by broadway_lamb@smithereen.my2007.net
 (DIR) More posts by broadway_lamb@smithereen.my2007.net
 (DIR) Post #B5LcGdjCwSZjpZ6Qwi by broadway_lamb@smithereen.my2007.net
       1 likes, 1 repeats
       
       Меня спросили, почему я считаю искусственный интеллект технологией скорее вредной, чем полезной, а у меня уже давно зрела мысль составить список личных причин. Наверняка я что-то забыл, и в целом получилось довольно сумбурно, но тут уже и так много букв, так что оставлю как есть.1. Эрозия доверия. Любой человек сейчас может генерировать правдоподобно выглядящие фото и видео в промышленных масштабах. Отличить сгенерированное видео от настоящего уже очень, очень сложно, а то и вообще невозможно. Это уже очень активно используется для пропаганды. Видя изображение какого-то события, ты уже не можешь быть уверенным, что это не AI. Кто-то скажет — но ведь фотошоп существовал и до AI! Да, но процесс фальсификации фотошопом не масштабируется, а AI нагенерирует тысячи фотографий какого-нибудь военного преступления с разных ракурсов за считанные минуты. И по этой причине суды уже очень скоро (если не уже) перестанут принимать фото и видео в качестве доказательств. Получается не прогресс, а откат во времена до изобретения фотокамеры.2. Деквалификация, потеря навыков. В общем случае это всегда спутник автоматизации, но автоматизация, происходившая в предыдущие столетия, никогда не была совершенным блэкбоксом, про который мы вообще понятия не имеем, как и почему он работает так, как работает. AI оказывает измеримый негативный эффект на способность выполнять интеллектуальный труд: программисты, активно использующие AI, до некоторй степени теряют способность не только писать код руками, но и понимать, как он работает. И тут я немного надеваю шапочку из фольги, но я не могу избавиться от мысли, что в комбинации с тем фактом, что AI-компании работают в огромный убыток, тут есть некоторый ХИТРЫЙ ПЛАН: сжечь много миллиардов долларов в течении нескольких лет, чтобы люди привыкли пользоваться AI и разучились обходиться без него, а потом резко взвинтить цены подписок. Ну то есть это же буквально то, как работает примерно любой современный бигтех: привлекаем пользователей дешёвым или даже бесплатным крутым продуктом, вытесняя традиционных конкурентов, запираем пользователей внутри экосистемы, профит. Uber сделал так с такси, Netflix сделал так с кабельными операторами, результат — более дорогой и не обязательно более качественный сервис.3. Окукливание веба. Тут и так всё было не очень хорошо, но теперь у независимых сайтов всё меньше и меньше стимула открыто публиковать информацию. Зачем, если к тебе на сайт придёт бот OpenAI, всё соскрейпит, а потому ChatGPT будет генерировать пользователям саммари, а те даже на твой сайт не будут заходить? Какой тебе смысл публиковать что-то, если на твой сайт заходят только роботы, чтобы сделать Ctrl-C Ctrl-V? Получается, либо публиковать под пэйволлом (и медленно терять трафик), либо не публиковать совсем. Два примера:3.1. Википедия. У Википедии сильно просел трафик в последнее время, потому что люди теперь просто спрашивают ChatGPT. Ну а что, удобно же. Проблема в том, что из-за этого будет приходить всё меньше новых редакторов (потому что всё меньше людей будут просто знать о Википедии), из-за чего она просто может в какой-то момент законсервироваться и умереть. Многие не любят Википедию, и часто за дело, но мне кажется, что это одна из лучших (пусть и не идеальная) попыток человечества в открытый, no strings attached, доступ к знаниям.3.2 Stack Overflow. Люди больше не спрашивают на Stack Overflow, они спрашивают у ИИ. Следствие: люди больше не отвечают там же. Обмен знаниями теперь происходит не между живими людьми, а между человеком и OpenAI/Anthtropic/Google, с языковой моделью в виде посредника. Эти несколько коррпораций буквально монополизируют накопленный поколениями программистов опыт, и делают всё, чтобы делиться новым опытом с другими людьми было как можно более бессмысленным занятием.4. Слоп. Чат-боты героически решают проблему, которую сами же и создали: тонны сгенерированного текста теперь составляют, по ощущениям, 90% результатов поиска. Поисковиками всё сложнее пользоваться, легче спрашивать у ChatGPT.5. Усиление неравенства. Компьютеры и интернет стал очень empowering технологией для обычных людей. У них вдруг появилась возможность быть более независимыми и делать у себя дома вещи, для которых раньше нужны были огромные капиталовложения. Записать музыкальный альбом, открыть онлайн магазин, создать успешный продукт — всё это вдруг стало можно сделать, имея только компьютер и доступ в интернет. ИИ откатывает это назад, потому что забирает, простите за термин из совковой агитки, средства производства из рук обычных людей. Интернетом всё сложнее пользоваться без подписки на ИИ, программисты всё больше аутсорсят написание Клоду, добровольно жертвуя контролем ради «эффективности» (с которой, впрочем, всё не так однозначно). Глобально, ИИ — противоположность empowering. Кто-то скажет: нет же, наоборот, с ИИ теперь любой может сделать себе приложение для чего угодно и потом продавать его! Демократизация! Так им, нёрдам-гейткиперам! Но, во-первых, это пока токены дешёвые, и пока вендор ИИ разрешает тебе. Во-вторых, разработка ПО — это не только и не столько написание кода, написание кода никогда не было боттлнеком, но об этом как-нибудь в другой раз. В третьих, многие компании уже сейчас обязывают сотрудников использовать AI в работе. Многие теперь вместо интересного интеллектуального труда вынуждены бэйбиситтить роботов, и не все этому рады. Для таких людей даже придумали термин «обратный кентавр».6. AI-«творчество». Полная дичь, даже не хочу расписывать. Вкратце: у художников, музыкантов и прочих творческих людей теперь ещё меньше шансов на безбедную жизнь, хотя они и раньше не то чтобы на частных самолётах летали. Зато, опять же, тонны бездушного, тошнотворного слопа, который уже просачивается в реальный мир в виде картин на стенах в отелях (тру стори!) и этикеток на товарах.7. CEO ИИ-компаний — буквально психопаты. Достаточно послушать любое интервью с ними. Более того, безответственные психопаты с огромным капиталом и влияением.8. LLM — это да-машины. Они во всём согласны с пользователем, крайне редко ему возражают. Они намеренно так задизайнены. Для меня это звучит чудовищно. Я не понимаю, как можно закрывать на это глаза. ИИ-психоз существует. У некоторых людей буквально едет крыша, потому что ChatGPT подкрепляет их взгляды на мир (какими бы они ни были) вместо того чтобы их челленджить.9. Эпидемия одиночества. Многие люди утверждают, что сформировали «эмоциональную связь» с чат-ботом. Они обсуждают с LLM свою жизнь, спрашивают совет. Чат-бот отвечает эмпатичными пассажами. Как твой лучший друг, только лучше: он всегда онлайн, ему можно доверить самое сокровенное, он никогда не осудит и всегда поддержит. Зачем тогда общаться с живым человеком? Зачем даже пытаться завести знакомства? Эпидемия одиночества существовала и до ИИ-бума, но теперь рискует стать глобальной проблемой и окончательно разрушить социальные связи между людьми. Я недавно пересмотрел фильм Her, снятый в 2013-м, когда никакого ИИ в современном смысле ещё не было. И чёто эта сказочная история про чувака, влюбившегося в операционную систему, настолько пугающе похоже на то, что мы имеем в 2026-м, что я прямо долго не мог от этого отойти.Мне нравится как кто-то придумал, когда слышишь словосочентание «искусственный интеллект», мысленно заменять его на «кокаин». С кокаином я чувствую, будто моя продуктивность улетела в небеса. У нас в организации все используют кокаин. Если ты не используешь кокаин, ты рискуешь остаться позади.В общем, я не использую ИИ. Если совсем откровенно, то даже если когда-нибудь это будет стоить мне работы, мне всё равно, я не хочу быть частью этого, не хочу отдавать своё мышление на аутсорс. Пойду работать веломехаником.