2025-12-09: ИИ-2041 - первые впечатления

Прочел первую новеллу из книги Кай-Фу Ли и Чэнь Цюфань «ИИ-2041. Десять образов нашего будущего» и фиксирую впечатления по свежим следам. Наверное, продолжу читать книгу и если впечатления изменятся — буду писать. Пока — следующие тезисы.

Конструкция книги: новелла, написанная одним автором, потом научный разбор второго. Первая новелла — про девочку-подростка из Мумбаи, семья которой купила страховку с ИИ-приложениями, которые имеют доступ к повседневной жизни и дают активные советы, эту жизнь меняющую, с экономическим подкреплением в виде изменения суммы взносов. В целом — к лучшему — отец бросил курить, стал осторожнее водить машину. При этом семью штрафуют за то, что ребенок часто ест конфеты и сласти, и это авторы одобряют — ЗОЖ, а вот то, что ИИ мешает девочке начать романтические отношения — осуждают.
Контекст написания. Книга издана в 2021 году, до прорыва с ChatGPT (2022). Поэтому в фокусе — модели глубокого обучения (deep learning), а не алгоритм трансформера, который дал успех. А у нас издана в будущем 2026 (я не шучу, в выходных данных указан будущий год) и позиционируется как предсказание. Это — предсказание из прошлого, когда успехи LLM были еще в будущем (хотя разработку ChatGPT уже активно вели), и на это надо делать поправку.
Авторы — из China Google, подразделения Google, работавшего в Китае, при этом Кай-Фу Ли — с Тайваня, получил образование и работал в Штатах, то есть по культуре в значительной мере американский китаец.
Социальные изменения общества, связанные с ИИ, в первой новелле отсутствуют. То есть мир уже 20 лет живет в обществе, где ИИ в виде рекомендательных систем уже активно используется, но мир практически не изменился. Может, это особенность первой новеллы, где действие помещено в Индию — чужую страну для авторов, которую они рассматривали как медленно развивающуюся (хотя реально Индия развивается очень быстро). Посмотрим в следующих новеллах.
Социальная конструкция очень странная. Страховая компания запускает ИИ, которому ставит целью уменьшение страховых взносов, то есть работу против интересов компании. При этом неясно, как эти взносы рассчитываются, по смыслу это происходит на основе обработки данных, то есть с помощью того же ИИ. Получается, что два ИИ работают в противофазе, что странно с инженерной точки зрения. Ну или идея коммерческой страховой компании — просто прикрытие для целей привести поведение людей в соответствии с некоторым идеологическим шаблоном, не показываемым явно.
Из новеллы следует, что романтические отношения, построение семьи и рождение детей рассматриваются ИИ как вредные, они ведут к увеличению страховых взносов, и ИИ хочет их расстроить. Хотя в некотором смысле это оправдано — за беременность платить придется, а потом — за детей. А вот почему именно роман девушки с конкретным нормальным парнем из касты неприкасаемых является особо отрицательным для ее здоровья и страховки — неясно. Все это подтверждает мою гипотезу, что за страховой лежит идеология, при чем не государственная, а чья-то еще, а вовсе не коммерческая выгода, а тогда проблема совсем не в ИИ.
Вывод автора о том, что нужно государственное регулирование, чтобы держать использование ИИ под контролем и проводить аудит компаний мне кажется вообще не обоснованным. С чего бы такая вера в добро государственного регулирования, особенно учитывая американскую культуру авторов? Или это у них проявилась китайская составляющая культуры (при том, что они — с Тайваня, а не из материкового Китая)? При инженерные аспекты такого контроля вообще не рассматриваются, хотя это — в научном разборе первой новеллы.

На этом пока все.

Пост FB Пост Tg

[ Хронологический вид ]Комментарии

(нет элементов)

Войдите, чтобы комментировать.

— Максим Цепков • 13:57, 9 декабря 2025 • нет комментариев