7914
правок
Изменения
м
Посты Опубликовано в Tg частями 09.12.2025 - 11.01.2026, я читал с перерывами. Посты по новеллам: [https://t.me/mtsepkov/1088 первая], [https://t.me/mtsepkov/1108 вторая], [https://t.me/mtsepkov/1109 третья] и [https://t.me/mtsepkov/1110 продолжение], [https://t.me/mtsepkov/1111 четвертая] [https://t.me/mtsepkov/1114 пятая], [https://t.me/mtsepkov/1115 шестая], [https://t.me/mtsepkov/1116 седьмая], [https://t.me/mtsepkov/1126 восьмая], [https://t.me/mtsepkov/1127 девятая], [https://t.me/mtsepkov/1128 десятая]
Продолжаю читать книгу '''Кай-Фу Ли и Чэнь Цюфань «ИИ-2041. Десять образов нашего будущего»'''. Первые впечатления по первой новелле был [https://t.me/mtsepkov/1088 в этом посте]Прочитав первую новеллу, а сегодня будут '''новеллы 2-4''' в нескольких постах: [https://t.me/mtsepkov/1106 опрос] показаля вернулся к книге после трехнедельного перерыва, что 70% предпочитают такой варианти перед публикацией впечатлений от второй, а не короткий пост со ссылкойтретьей и четвертой новеллах снова попробовал обобщил впечатления от книги.
'''ИИ-2041. Третья новелла.''' Продолжение – про эмпатию ИИ.
И последняя на сегодня '''четвертая Четвертая новелла'''. Там – апокалипсис вечного ковида: мир, в котором эпидемия идет постоянно, поэтому все должны вакцинироваться каждый квартал все новыми вакцинами, а те, кто без вакцин должны сидеть дома, и за этим смотрят киберполицейские. И люди в это вписались, как вписались в ряде стран в предосторожности против ковида: на картах идет трекинг всех людей, при этом для каждого рассчитываются риск, что он заболел, пренебрегая предосторожностями, и другие люди в реальном времени предупреждаются о его приближении.
Нет описания правки
[https://www.facebook.com/mtsepkov/posts/pfbid04GcX4uZc3sdYkjrBSyizdQHoRJsAC4Bbt7vDYtG8siAhHYgoqM1zeNqun1wdMHApl Пост на FB о первой новелле]
= Вторая новелла – политический пиар =
Общее впечатление, что '''социально-экономическая действительность романа в 2041 году не изменилась и примерно соответствует существующей''' – подтверждается. Может, для авторов это логично, ведь концепт Фукуямы про конец истории на западе принимают всерьез, а авторы в значительной мере несут американскую культуру, хотя по происхождению китайцы с Тайваня. При этом '''темпы развития ИИ''' в представлении авторов, на мой взгляд, '''сильно занижены'''. Понятно, что роман говорит о том, что более-менее вошло в повседневную жизнь, но развитие смартфонов хорошо показывает, что для широкого распространения не требуются десятилетия, а достаточно года-двух. Сотовая связь действительно развивалась медленнее, там было нужно вышки везде поставить, а для ИИ это не нужно, базовая инфраструктура интернета есть. Но представления о низких темпах развития ИИ, кстати, соответствует времени написания книги – 2020-2021 годы, когда ChatGPT только появился. Быстро развиваться и умнеть он действительно начал позднее, что вызвало письмо сотни ученых с призывом остановить исследования из-за непредсказуемых последствий. Впрочем, сейчас об этом призыве, по-моему, забыли.
Еще отмечу, что создать личного помощника-собеседника можно уже сейчас. Хотя, наверное, с беседой в реальном времени могут быть проблемы, особенно если хочешь визуальный образ. Но технологии идут вперед, Алиса уже давно умеет беседовать в реальном времени, дальше вопрос, чтобы было куда подложить персональные характеристики собеседника, которые при общении с LLM ты можешь положить в системный промпт или RAG. LLM умеют имитировать любую личность, в том числе – отвечая за исторических и литературных персонажей, так что персонализация в коммуникации помощника, с которым ты хочешь беседовать – не проблема. Речь – тоже не проблема, голосовые синхронные переводчики работают. А с синтезом видео и дешифровкой твоих жестов и эмоций – разберутся, тем более, что эмоции считываются с голоса, мимика не очень нужна. Так что все это вполне может стать близким будущим. А может уже и есть в настоящем в каком-то виде, во всяком случае, быстрый поиск выдал приложение, в котором можно создать себе виртуальную девушку и с ней общаться (а вот виртуального парня почему-то не предлагают).
В разборе третьей новеллы есть очень ценная мысль про ИИ: '''не надо сравнивать LLM по критериям для мышления людей''', таким как тест Тьюринга, потому что ИИ мыслит иначе. И потому он будет выигрывать у людей или проигрывать им в зависимости от конструкции теста. А правильно искать синергию взаимодействия. Я тут отмечу, что придумывать тесты, в которых бы человек выигрывал ИИ, становится все сложнее. Автор говорит про эмпатию, но уже есть исследования, что люди предпочитают ИИ-психологом и те им лучше помогают, чем психологи-профи. А еще они гораздо дешевле, и доступны 24 часа.
= Четвертая новелла – вечный ковид =
У главной героини рассказа страх болезни превысил разумные пределы, она три года живет в таком виртуальном коконе, но ее онлайн-друг разбивает такой кокон, симулируя, что он приехал повидаться, но попал в карантин и умирает. Девушка тут же забывает свой страх и бросается его спасать. Логика тут отсутствует, она не думает, ей управляет эмоциональный автопилот, а эмоции у нас устроены таким образом, что запросто перебивают друг друга и захватывают управление. И друг хорошо просчитал ее поведение, по-видимому, на основе длительного общения и с помощью ИИ, составил план и нашел помощников.
При чем, похоже, гражданское применение из-за безопасности останавливать не собираются, в 2024 компания EHang в Китае получила разрешение на продажи беспилотного воздушного такси и начаты продажи. Заявка была в 2020. Кстати, в шестой новелле про беспилотники о таких такси не говорят, только про автомобили – а именно тут реальное изменение будущего.
= Восьмая новелла – безработица =
Восьмая новелла – о том, что ИИ лишит людей рабочих мест и появится проблема занятости. На мой взгляд, ничего нового авторы не сказали и, более того, социальная сторона у них слабая. Тема – старая, еще в 18-19 веках фабрики лишали ремесленников работы и те протестовали. Но с тех пор отмирание конкретных профессий из-за развития техники шло регулярно, и люди – справлялись, хотя государство периодически вмешивалось для смягчения социальных последствий. Одна профессия на всю жизнь уже два века как не является гарантированной. И гарантий жизни на одном месте – нет, ее, кажется, никогда не было, люди переезжали в поисках работы, в том числе – потому что в некоторых местах жизнь работа вдруг сильно сокращалась из-за разных причин.
По сути, основная проблема в том, что концепт устойчивого развития, придуманный всего полвека назад оказался не состоятельным, а он прошит в mindset авторов и не только у них. А еще авторы рассматривают людей как пассивных субъектов, о которых непременно надо заботиться, иначе они будут лишь ныть и страдать, или протестовать и страдать, но не действовать в позитиве. Такие иждивенцы.
И авторы не понимают устройство экономики: спрос в значительной мере завязан на потребление, и определяется доходами людей, поэтому, если люди массово перестают получать доход – то падает спрос: они не могут купить новые вещи. И базовый доход тут не решает проблему, потому что для его выплаты будет перераспределение денег, собираемых государством, а оно в любом случае тратит получаемые деньги. Когда Форд решил массово выпускать автомобили, он для создания спроса позаботился, чтобы машина была доступна. У него был интересный критерий: чтобы автомобиль мог купить его рабочий, и для этого он рабочим платил больше, чем другие.
В новелле показана зарождающаяся отрасль подготовки, которая существует на государственные деньги, и также средства фирм, которых обязывают вкладываться в переподготовку при массовых увольнениях. Парадокс, что часть тех, кто занимается переподготовкой сами живут в старой парадигме профессии на всю жизнь, обещают подобрать людям профессию, которую не придется менять – и у них моральные страдания, когда к ним попадают повторно через несколько лет.
Когда авторы говорят об исчезающих профессиях, то у них есть несколько слепых пятен, которые, на мой взгляд, были очевидны уже пять лет назад. Во-первых, они вообще не рассматривают менеджеров как профессию, которую заменит ИИ. Хотя это – достаточно большая прослойка, об этом вообще не идет речи. Во-вторых, они убеждены, что ИИ не способен на творчество. Создание музыки и изображений было уже в 2020. GPT-алгоритмы с тех пор продвинулись, но зародыш, на мой взгляд, был уже тогда. А сейчас точно понятно, что с творчеством у LLM проблем нет. И нет проблем с эмпатией, уже есть исследования, что они – лучшие психологи, чем люди. И это – именно слепое пятно авторов, потому что творчество – это генерация альтернативных вариантов и их оценка, ИИ может и то и другое, авторы это признают. И из текста видно, что авторы рассматривают творчество как нечто мистически-человеческое, недоступное ИИ по определению.
Ну и про уход за престарелыми, авторы уверены, что роботы – не справятся. Конечно, тут есть проблемы, и в Китае одна из задач программы по производству антропоморфных роботов – чтобы было, кому ухаживать за стареющим населением. Но, с другой стороны, если брать реальные дома престарелых, не премиум сегмент – много ли там эмпатии и человеческого ухода? То есть проблема тут социальная, а не техническая, и ИИ только помогает ее решить – с ним старый человек точно может поговорить очень дешево.
= Девятая новелла – счастье =
Девятая новелла – очень странная. Арабский принц решает осчастливить людей, создав с помощью ИИ-помощников райский остров, где людей кормят и дают другие чувственные удовольствия, чтобы они были счастливы. Кроме секса – эта тема вообще отсутствует. Абсурд в том, что для тестирования он набирает группу из разочарованных в жизни богатых людей, которые и так все физические удовольствия запросто получали. Дальше эти люди подписывают контракт, по которому, во-первых, отдают все свои данные специальному защищенному ИИ, а, во-вторых, под угрозой штрафа в размере своего имущества не могут покинуть остров, пока ИИ не сделает их счастливым и не даст разрешения покинуть – абсурд продолжается.
Сестра принца не согласна с такой концепцией, но кто ж из арабов слушает женщин. И она с помощью одного из подопытных доказывает принцу, что людям нужны не только физические удовольствия и вообще им нужно разное.
В общем, у меня от прочтения возмущенная печалька по поводу американского образования. Авторы явно полагают, что актуальная модель счастья – это пирамида Маслоу, созданная в 1940-е. На нее есть ссылки и в новелле и в разборе, принц работает на нижних уровнях, а сестра говорит про следующие. Со времени создания модели прошло 80 лет, и наука не стоит на месте! Есть всемирно признанные модели, например, модель Шолома Шварца, который выделил 10 образов счастья в 1992, то есть больше 30 лет назад, она развивается, проводятся исследования по всему миру, количество образов дошло до 19. О ней и о других можно было запросто узнать пять лет назад, во время написания книги: спросить у тогдашнего ChatGPT или по-старинке, у Google. И при разработке компьютерных игр используются свои модели для удержания игроков, тоже описывающие разнообразие людей. Почему в новелле – уровень почти вековой давности понимания предмета?
А еще в комментариях автор пишет, что принц, наносящий счастье – не слишком невероятный сюжет, и приводит пример Фридриха Великого, который якобы неустанно заботился о счастье и просвещении немцев. Если такой заботой полагать постоянные войны, которые при нем вела Пруссия, и на которые солдат не только призывали, но и заманивали обманом – да заботился. Впрочем, я согласен с авторами, что счастье, скорее, надо ждать от просвещенных монархов и авторитарных правителей, чем от демократически избранных современных парламентов.
= Десятая новелла – изобилие =
Последняя новелла – попытка описать общество изобилия. На мой взгляд, провальная с точки зрения логики и экономики. Она показывает множество мифов, активно присутствующих в инфополе и формирующих ложный образ светлого будущего, поэтому я их зафиксирую в разборе.
* Изобилие даст не только ИИ, но и дешевая электроэнергия, которая будет дешевой за счет использования возобновляемых источников, и к тому же – с нулевым углеродным следом. Практика говорит, что возобновляемые источники не будут ни дешевыми, ни экологичными, это было ясно уже на момент написания книги, а сейчас повестку начали гасить.
* Если уж принять идею авторов про ИИ и дешевую энергию, то они должны быть доступны всем, но вот изобилие почему-то приходит лишь в развитые страны. Авторы не объясняют почему, хотя в комментариях это отдельно оговаривается.
* По сюжету из-за ИИ будет безработица, она приведет к волнениям и правительство введет безусловный доход, обеспечивающий еду, жилье, одежду, медицину, образование и прочие базовые потребности. А еще будет социальная валюта, которую будут выдавать за социально-значимые поступки, и с ней будет проблема – работать надо, и получать подтверждения от тех, кому нанес пользу, о том, что польза нанесена. В принципе, нормально, только почему-то героиня, которая пошла добывать эту социальную валюту, говорит, что общество вынуждает ее это делать, иначе она будет голодать и жить будет негде. А как же базовый доход? Какие именно плюшки дает социальная валюта – неясно.
* Есть большая нестыковка в экономике между «стоимость вещей – почти нулевая», «у всех есть базовый доход» и «социальную валюту обязательно надо заработать». Есть ощущение, что люди раньше тяжело работали, и обязательно хотят работать дальше, жить на базовый доход и не трудиться для них не выносимо, смысл жизни – теряется. То есть они не могут придумать собственный смысл, им обязательно нужен чужой. Ну или правительство так думает. Хотя в финале этот тезис все-таки объявляется неверным, право людей на самореализацию признается – происходит мирная революция.
* В разборе новеллы кое-что проясняется со ссылкой на Харари: оказывается, неравенство в обществе – базовая конструкция, его отмена обрушит общество, поэтому даже при базовом доходе мы его сохраняем за счет социальной валюты.
На этом – все. Если говорить '''о книге в целом''', то впечатления такие.
# ИИ уже по большинству направлений уже превзошел уровень, который в книге обозначен как только достигаемый в 2041, визионерство не получилось. У авторов много слепых пятен в mindset по поводу ИИ – творчество и эмпатия рассматривается как исключительно человеческие качества. Да, в массовом сознании эта тема присутствует, но они-то позиционируют себя как профи.
# Авторы вообще не рассматривают социальные эффекты, изменение общества под влиянием того, что люди будут расти в окружении развивающегося ИИ. Дети, вырастающие со смартфонами и соцсетями сильно отличаются от тех, кто вырос до этого. И если замахиваетесь на визионерство на 20 лет – это надо попробовать учесть.
# Вообще социально-экономические аспекты общества – очень слабая сторона авторов, там много не стыковок. Впрочем, тут проблема в том, что авторы мыслят в модели устойчивого развития и связанных с этим парадигм, не взирая на дыры в ней.
# Авторы полагают, что люди – пассивны, их надо вести, так есть и будет. Поэтому ИИ – поводырь, но он может повести не туда и это – проблема. Идея, что '''люди могут сами выбирать свой путь''' – чуть-чуть проявляется лишь в 10 новелле.
[[Категория:Книги]][[Категория:Общество]]