7171
правка
Изменения
Новая страница: «{{RightNote|Другие мои материалы по СМД-методологии}} {{red|'''Disclaimer. Это моя инт…»
{{RightNote|[[:Категория:СМД|Другие мои материалы по СМД-методологии]]}}
{{red|'''Disclaimer. Это моя интерпретация лекций, неполная и дополненная собственными мыслями.'''}}
Лекция сегодня была посвящена сценарием будущего развития. Петр обосновал, почему сценарий крупного централизованного развития ИИ, который был позавчера, он считает наиболее вероятным и реалистичным. Хотя альтернативный децентрализованный сценарий, который он назвал романтичным, тоже возможен, хотя и менее вероятный. Вообще предполагалось, что после лекции Петра желающие смогут рассказать альтернативные варианты, но лекция заняла много времени. Но я, готовясь, написал тезисы о своем варианте и опубликовал их в чате группы, а теперь включаю в конспект. В терминологии Петра это - децентрализованный вариант.
Помимо обсуждения сценариев, была таблица функций, которые можно передать машине, и которые пока передать не получается и классификация трендов. А до сценариев Петр подробно рассматривал нынешнюю ситуацию с точки зрения промышленных революций. Это рассмотрение позиционирует ситуацию в ряду аналогичных и должно помочь сделать ставку.
В конспекте я немного перенес тезисы из обсуждения в конце в месте конспекта, где обсуждались эти вопросы, в основном это касается сценариев.
= Фазы промышленной революции и динамика инновационного проекта =
Тезисы - напоминание. Про промышленные революции было во второй лекции и многих других лекциях Петра, так что здесь был фокус на переходе между революциями.
* Петр ввел 0 революцию в Нидерландах. Дискуссии, был ли в Нидерландах промышленный капитализм, или только торговый, как писал Маркс, 150 лет. И Петр обосновал, что промышленный капитализм был.
* Центрами промышленных революций были только новые образования, до 0 революции не было Нидерландов, 7 объединились. Аналогично в Великобритании - Англия объединилась с Шотландией. США - они новые, а после войны Севера и Юга переформатирование.
* Сейчас - начальная стадия 3 революции, потому как нумерация с нуля.
* Каждая революция проходит три фазы
*: 1 фаза Складывается технологический и институциональный каркас. Складывается, его до этого нет. Для внешнего наблюдателя - незаметно, он видит отдельные артефакты.
*: 2 фаза - когда сложилось - начинается рост, в разном темпе.
*: 3 фаза - потенциал роста использования ресурсов и производительности исчерпывается и начинается стагнация.
* В самоопределении предпринимателя важно понимание стадий.
** На 3 фазе - СРТ уже сложилась и достигнуты пределы. Остается рента, в том числе технологическая. Капиталы идут с спекуляции и стимулирование спроса на старые продукты. Спекуляция вымывает товар из цикла, финансилизация. Из денег проще делать деньги, чем товары. Рост цен, предприниматель не может сделать расчет.
** Мы в начале новой стадии, условных 25 лет. Но все проблемы завершения предыдущей присутствуют, революции накладываются и в начале новой присутствует старая СРТ. На ее фоне новые процессы - скрыты, тут область ставок, а не область расчетов.
Динамика инновационного проекта в начале волны. Аналогичные фазы можно выделить и в других условиях, но в начале волны есть важная особенность: потребность в ценностях, которые дает новая технология, еще не сформированы.
# Замысел проекта, позиционирование относительно решения проблем завершающей стадии прошлой волны на новых технологиях. Еще не новые ценности для потребителя, а старые. Проекция будущего в настоящее. Есть разница между ситуации с проблемами (пока нет конкретной проблемами) и проблемную ситуацию (есть конкретная проблема). Денис Ковалевич полагает, что это - преждевременно для предпринимателя, он работает от точки сформировавшегося спроса, а на этой стадии риски слишком велики. Но актуализация ценностей - это конец первой стадии, до этого все проекты будут именно такими.
# Формирование архитектуры проекта. Субъективное представление о ценности и прибыли - можно вступать в кооперацию. Но вокруг все - из старой СРТ, несут ее в деятельности и в понимании, mindset. B их надо вовлечь, с учетом их представлений о ценностях. И держатели производства, и команда проекта и потребители должны понять и принять ценность, и дальше - оценивать вклады. Каждый участник обычно переоценивает свой вклад. Увеличение вклада участника не означает увеличение прибыли. И тут надо договориться о прибыли, оно должно стать интерсубъективным. Предприниматель их расставляет. Я отмечу, что если слишком жестко расставляет - они уходят). Должны договориться по распределению прибыли и вложениям. Есть вклады в виде капитала и труда, и ценность денег зависит от потребности. Забота предпринимателя - сдержать перенос ценности продукта на ценность вкладываемых факторов, чтобы была высокая прибыль проекта. Важно соблюдение обязательств и конфиденциальности. А после масштабирование может быть технологическая рента.
# Долина смерти. После запуска выручка не покрывает затрат. Это может быть годами, тут история Эдисона, которая будет дальше. На этом этапе может не хватить ресурсов.
# Масштабирование. Добиться признания ценности - сложно. Производство должно быть массовым, чтобы были сетевые эктерналии. Чем шире круг участников, признавших ценности блага, тем шире в СРТ. Они копируют, идет трансформация СРТ. Увеличивается вширь больше), ввысь (большее значение) и вглубь (изменение СРТ и новые ценовые пропорции). На этом этапе вопрос в том, чтобы повышение ценности не перешло в рост цен материалов и издержек.
# Формирование новой нормы. Новые ценности формируют новые ценовые пропорции. Объективируются и субъективируются в них. Старые СРТ разваливаются, новые складываются. Или старые остаются в одних странах, а новые - в других, с перераспределением межстранового СРТ и капиталов. Формируются платформы, новая ценность переносится на ключевые узлы платформ. Для этого важна стабильность денег, это в середине большой волны, не в конце. Наличие здоровой системы очень важно, это становится основой интеграции новой ценности в общество.
# Рутинизация. Помимо распространения новой ценности, масштабов производства, включая подражателей. Платформа дает прибыль, но дальше она снижается, норма прибыли снижается. Капиталы пробуют уйти в другое место, но там жесткая система, и системы начинают не расширяться, а рушится.
Текущий 2024 аналогичен 1874, 1724 и 1574 (возникновение объединенных провинций - 1572). Можно посмотреть, какие предпринимательские проекты тогда были. Отмечу, правда, что у такого анализа проблема ошибки выжившего. В теории можно смотреть и провалы, а не только успехи,
В любом случае - вопрос как и когда будет новый продукт. И там предвидение будущего спроса, для потребителей, которого нет, и экономика. То есть тут вопрос - насколько угадал, предвидел ценность, помог формированию, и насколько попал в ее удовлетворение (или расчистил площадку для других). Вся прибыль - в будущем.
Правда, тут я отмечу, что с ИИ нестандартная ситуация: ценность ИИ сформирована в общественном сознании уже в 1960-е. Потому она стояла на стопе "пока не можем". Экономическую ценность, конечно, надо доказывать, но на уровне информационного поля проблем нет. не надо прорываться через барьер непонимания. Хотя опасения тоже сформировали, но с этим можно работать.
История лампочки Эдисона. В 1880 - первая фабрика, через год - еще один завод. 1881 себестоимость лампочки была 1.1$. Для широкого использования ламп, которые были новыми благами, нужна доступная цена продажи. Эдисон разработал план завоевания потребителя, с расчетом что с начала цена 0.4$ и не менялась. А с развитием технологий цена производства должна снизится, и потом покрыть убытки. В 1882 себестоимость снизилась до 0.7, масштаб вырос, и годовой убыток стал больше. В 1883 ряд ручных операций заменили на машинные и улучшена технология, до 0.5. Но количество изготовленных ламп возросло, что убытков больше. В 1884 году себестоимость 0.37, и за 1 год он возместил убытки. На 1885 году 0.22 а выпуск 1м в год - и это прибыль, которая дальше увеличивалась.
История интересная, и я полез смотреть подробности и окружение. Во-первых, одних лампочек было недостаточно, им еще было нужно электричество. Эдисон, кроме лампочек, производил динамо-машины. Возможно, это были комплексные проекты - электростанция, сеть проводов, освещение, хотя могли быть и отдельные продажи. А если это комплексный муниципальный проект, то городским властям надо было гарантировать, что лампочки будут доступны, потому что на электростанцию они, наверное, могли собрать, а на лампы нет. А лампы тогда работали не долго. Но в таком случае себестоимость лампочки - это ни о чем, надо смотреть экономику проекта в целом, учитывая динамо-машину. Во-вторых, Эдисона поджимали конкуренты. Он работал с постоянным электрическим током, и там все было готово в 1879, а в 1880 это впервые установили на пароходе, а первая станция была в 1882. Конкуренты, Thomson-Houston Electric, работали с переменным. У них что-то не ладилось компанию с инвестициями они смогли сделать в 1882, а первую станцию - в 1886. Но про опыты наверняка было известно, были другие конкуренты, там еще American Electric была основана тоже в 1880. Так что, вполне возможно, было решение J.P.Morgan, который финансировал компанию Эдисона, под репутацию и обещания, что с себестоимостью разберутся, для захвата рынка. И это оправдалось: переменный ток был более эффективным, но рынок был уже занят и в 1892 Edison Electric купила их, а объединенную компанию назвали General Electric. Любопытно, что главой объединенной новой компании стал президент Thomson-Houston, а Эдисон в 1894 продал свои акции, оставшись консультантом. В общем, в более широкой рамке история получается сложнее, и не факт, что Эдисон там - основной предприниматель.
= Сценарии развития текущей ситуации =
Текущая стадия промышленной революции - середина первой фазы
* Новая СРТ не сложилась, а старая растеряла потенциал
* В этой стадии - перепроизводство инженерных инициатив и решений, большая часть которых - на прошлой волне
* Деньги - из старой СРТ
* И все это надо рассматривать в контексте изменений международной СРТ.
Получается следующая ситуация
* Когда ChatGPT используют в старой СРТ, потенциал невелик, и не может обеспечить долгосрочной прибыли.
* Непонятно, где будет рост СРТ. И как начнется. По разным трендам время течет неравномерно.
* При этом часть мест финансируется военными и госами, экономика искажена.
* Предприниматели смотрят на инженерные изобретения и не очень понимают перспективы, живут в старой СРТ.
* Смотрят на финтех, а не процессы и материалы - потому как спекуляции на третьей фазе предыдущей волны как раз на пике.
* Прогнозируют рост инвестиций, но надо смотреть на происхождение: произошел перенос из старого, или нет.
* Стартап студии растут быстро, в них копится вертикальная составляющая - но инженерная, а не предпринимательская.
Было ли это в прошлом? Было. В 1697 Дефо написал эссе Век прожектерства. Это как раз конец 3 фазы 0 революции. Он описал удивительное явление: авантюристы обогащались. предлагая властям разные проекты.
Петр различает лидерские индустриализации и догоняющие, которые могут быть предпринимательские и административные. Лидерские всегда были предпринимательскими. Они происходят за счет того, что в силу разных причин на одной территории собирается много предпринимателей, которые все время ищут новые проекты. И в какой-то момент складыватеся.
В 1660 William Petty в Англии пишет книгу, в которой задается вопросами: почему в Нидерландах каждый человек получает 18 центов в день, а у нас 6? Нас больше, у нас флот, больше ресурсов, мы выиграли первую войну. А они все равно получают больше. У него разные ответы. А Петр думает - предпринимательство.
Понятно, то появляется идея собрать административно ресурсы и направить на догоняющую индустриализацию. Кольбер: почему голландцы даже наши каботажные маршруты контролируют и шляпы у нас делают? И он начинает создавать торговые компании, импортозамещать и так далее. И через 20 лет - полный коллапс. И когда король вызывает и спрашивает - где, то советует войной пойти.
На каждом такте разрыв вырастает. Между Францией и Голландией 1675 - почти никакой разницы. Между США, Францией и Германией в конце первой революции - похоже. США работает за счет предпринимательства, а Германия административно. Важно: администрирование на каждом шаге - все жестче. Иначе не получится. в том числе это относится к администрированию в тех странах, которые были лидерами. Предпринимательская - пунктиром, высоко, а административная - массовая и расширяется. Кто-то достигает, кто-то в серединке.
Растет масштаб конфликтов. Идут войны следующих типов
* гражданские конфликты внутри стран, в том числе претендентов на лидерство - в странах претендентов конфликт между новым и старым там больше.
* множественные конфликты между странами за места в международной СРТ. Включая 1 и 2 мировые войны.
* конфликт между ведущим претендентом на лидерство в ходе новой революции и старым лидером
Почему создание больших кластеров и введение режима секретности Петр полагает высоковероятным? Потому что на 3 стадии 2 пром.революции наибольший вызов для старой системе приходит со стороны военных конфликтов. Дроны: последний Карабах, Украина, Ближний восток, в будущем Тайвань - страны включатся в новую гонку вооружений. Он не рад сценарию, но считает его вероятным.
При этом сценарий Мегапроектов он считает реалистичным сейчас, но его реализация может подготовить почву для иного. Проблема в моменте: если посмотреть на войны - они смещаются к началу волны и это - плохо.
ВПК не является источником инноваций, но это не мешает ему разворачиваться, брать власть. ВПК может как создавать инженерный навес нового, так и продолжать развитие старого, развивать. Это как раз вторая мировая. Чем слабее позиции стран уходящей волны, тем больше вероятность, что они пойдут на альянс с административной системой. Но жесткая рамка заказа - сделает прагматизацию, без исследований. Это в рамках основного сценария. А в децентрализованном - освобождается.
И была реплика Николая Верховского про основной сценарий. Разработчики ИИ, понимая ограничения, приходят к выводу, что энергоемкость и материалоемкость зависит от архитектуры мыслительного процесса, самого работы GPT внутри семантического поля. В новых версиях они вставляют рассуждения, и еще показывают, как рассуждала GPT в логах. B это снижает энергоемкость. А еще дает реальное, а не виртуальное объяснение, как пришли к решению. Есть надежда на большой заказ и возможность. Но может оказаться, что такие деньги не соберут. Получается, что одни просят 5 трлн, а другие предлагают альтернативы. И сейчас идет драка, как делать. Но исследований нет. Из закрытых конференций - машину на чипе режут модулями и рисуют волшебные структуры.
А я тут должен отметить, что для дронов нужны легкие локальные решения, а не мегаИИ, о котором проект. Хотя, конечно, военных можно в разном убедить.
Про децентрализованный сценарий Петр сказал, что у него есть свои трудности: блокчейн - медленный, доступность для широких кругов - под вопросом. Это романтическое направление: все люди научатся жить, и станут сами себе хозяевами. И менее вероятный.
Я тут отмечу, что блокчейн - не обязателен, хотя есть те, кто за него топят. Вообще сценариев много, они включают мировоззренческую и технологическую составляющую, надо разбираться на следующем уровне подробности в деталях. Я тут недавно прочитал Бердяева Истоки русского коммунизма, и там явно видно, что нельзя просто делить на тех, кто был за монархию и против, там было много разных движений, а победило одно.
В конце революции образуются инженерные решения - они просто накапливаются, потому что без применения. НАСА - пример сплоченного, но неспособного коллектива. Пришлось уволить, они устроились в стартапы, там много. Инженерные проекты живут своей жизнью. Иногда за счет предпринимателей.
Онтологически у лидера текущей нет шанса стать следующей - они сохранили структуру. И одна из проблем США - как сохранить, они не могут смириться. До 1 мировой Британцы надеялись вернуть. Предприниматели, интуитивно понимая - инвестируют в другие точки. Голландцы с 1675 не инвестировали в Голландии, они по всему миру (Англия, Франция, Россия, колонии, Англия). Не надо делать инъекцию в протез. А элиты пытаются удержать.
Реплика Верховского. В промреволюциях - всегда флажки стран. Но реально там масса предпринимателей, складывается по миру, и дальше ищет, где локализовать, где институты меньше мешают.
Петр. В начале - возможно. Голландское чудо складывали немецкие протестанты, пираты, евреи из Португалии и так далее. И шла война за независимость, и внешнее давление было важнее внутренрих конфликтов. А как война закончилась - стало печалька.
А в Англии элиты колоний начали использоваться как противовес. США вышел совсем, а другие - имели позиции, сдерживали, и это вторая сторона. Англия и США - колониальный тип. Индия для Англии - экстерниализация безопасности, офицеры из Англии, а солдаты оттуда и не отвлекали англичан от труда на производстве.
Я тут отмечу, что сложилась нестандартная ситуация: основное количество инженеров, работающих с технологиями старой волны - в США, и там это сознательная политика. Вообще новая волна будет особенной, потому что теория волн и промышленных революций хорошо проработана и известна правящим социальным группам. И они не ждут, а действуют, и начали это больше полувека назад с попытки остановить технологический прогресс, а заодно и рост населения - римский клуб, концепция устойчивого развития и так далее. У Переслегина, кстати, это поломало его теорию волн развития, которые у него короче революций Петра: пятая волна, которая началась около 1960, получилась нестандартной.
Если американское правительство вложится, решая другие задачи: сохранение геополитики, стабилизация расходной части населения, стабилизация отношений между штатами. Мегапроект может это решить. Не факт, что запустят, могут оценить, что новый Манхеттен не потянуть. Еще могут запустить, но не добиться результатов. Но все равно сделают существенный кусок: сформируется пузырь, лопнет, много всего останется.
= Мой сценарий развития =
В этом месте уместно поместить тезисы по моему сценарию развития. Я их написал и опубликовал до лекции Петра. Если кратко - я за децентрализованный сценарий, в котором не вижу ограничений.
# Есть много разных конкретных задач, которые интересно переложить на компьютер по разным причинам, ИИ расширяет классы возможного.
# В сценарии я опираюсь на развитие софта - базы данных, ERP и другие, потому что они решали те же самые задачи, в деятельности, но у них - другие технологические возможности. При этом у баз данных разнообразие задач поуже, у ERP - пошире, и сценарии - различны. Где задачи ИИ находятся в этом ряду не понятно.
# Флагманы (OpenAI) сделали ставку на один продукт-монстр, который будет для всех задач, потому как все их делает человек, значит все они одинаковы. При этом уже продукт не один, есть несколько крупных конкурентов, за ними идут конкуренты поменьше, это повторяет ситуацию скорее с базами данных, чем с ERP.
# Флагманы решили монополизировать рынок, может, разделить на двоих-троих, через регулирование. А заодно продать государству как стратегический ресурс. Через регулирование можно все угробить, но я считаю, что все угробить таким образом не получится, а свое преимущество они рискуют потерять, потому что если OpenAI придут управлять генералы или бюрократы, то там рассыплется. Будет больше альтернатив, они будут догонять. Что по поводу этого говорят флагманы - фигня, это как Oracle объяснял, то его не догонят.
# Конечные задачи решаются малыми командами собиранием человеко-машинных системы из разных ИИ и поддерживающих людей по агентской схеме. Люди работают на стадиях конструирования, сборки схем и их обучения и на сопровождении, то есть перестройке и дообучении. А также следят за операционной работой и вмешиваются - как руководитель следит за работой отдела. Там есть точки развития технологий, например, научиться методологически технологично собирать тестовые наборы, чтобы сравнивать разные решения, и при этом избегая эффекта, чтобы агент чрезмерно подстраивался под тестовые данные. Принципы и подходы для этого есть, отработаны на системах аналитики и других, но надо перенести. И именно они выбирают, что использовать как базу ИИ-агентов, можно собрать из нескольких агентов ChatGPT, или несколько разных платформ, включая традиционные вычислительные программы.
# Многие задачи требуют локального развертывания по нормативным соображениям, и уже есть модели, которые можно развернуть на кластерах, доступных небольшому университету или компании, и даже на машине разработчика. И там возможна архитектура с узкими специализациями, например базовая LLM общего назначения для диалога, к которой подключена модель, тренированная для узкого класса задач. Или не очень узкого, например, написания кода на почти 200 языках программирования - оказалось, что это однородная задача. И обучать такие модели тоже может небольшая команда на разумных мощностях, это может быть частью проекта. Появляются аналогичные платформы для физически действующих роботов, и их тоже может использовать и доводить небольшая команда. Вообще, подсоединить исполнительный механизм к ИИ - не проблема, автопилоты рулят окружающим миром.
# У ИИ, в отличие от людей, нет ограничения, что специалиста можно нанять только на полную ставку (или на полставки) - он может отвечать на специализированный вопрос, и команды агентов могут быть большими. Часть агентов делают просто персонализацией промптов: ответь как такой-то специалист, учитывая это и это, ИИ умеет занимать производственное рабочее место, особенно уже существующее в СРТ для человека. При этом, если вопрос не является уникальным, а встречается в задачах по всему миру, то модель получается повторно-используемой. Ее могут продавать, а могут выложить в открытый доступ - все равно в ходе проекта ее сделали, а для команды есть бонус, что ее наймут дообучать эту или сделать аналогичное.
# Децентрализованное развитие снимает все препятствия СРТ, о которых шла речь, кроме социальных и экзистенциальных. С энергетикой разберутся, ее хватает, надо учить умнее, а часть проблем, типа тантала - просто надуманные. И люди для обучения и конструирования тоже находятся, для многих задач сверхвысокой квалификации не требуется, будут команды, решающие задачи разной сложности.
# По социальным проблемам - независимо от того, что выплескивают на широкие массы, в основе - консервативные посылы существующих социальных институтов управления обществом, как общего характера, так и частных, например, профессиональных сообществ, таких как юристы. То есть они исходят из социальных групп, устроивших ренту из управляющих позиций. Ретроспективно оценивая, думаю, что остановить прогресс у них не получится. Одних сметут, потому как их монополия уже достала другие группы, с другими - договорятся.
# Проблемы этики, ответственности за действия, целеполагания, объяснения действий и другие экзистенциальные проблемы - мнимые, для разгона страхов. ИИ справляется не хуже человека, а местами - лучше, и этого достаточно. Если распространить предъявляемые к автопилотам требования на всех водителей, то водить машины надо всем запретить. И так далее. Многие из этих проблем снимет военное применение ИИ, которое уже есть и активно развивается.
# Начнется все с ИИ-помощников, вернее уже началось и пойдет экспотенциально. И их применение, и настройка не сложнее работы с смартфоном или компьютером, или обучения помощников-новичков. Перед людьми у ИИ есть преимущества - они не болеют, неутомимы и, главное, готовы признать и исправить свои ошибки. ИИ-художник или дизайнер не отвечает "не учите меня рисовать, я художник - я так вижу". У него нет эффекта Даннинга-Крюгера переоценки возможностей. И так далее. Так что лет через пять они будут у каждого, как сейчас есть смартфон, а уровень использования будет различным. При этом будет много команд и компаний, которые будут создавать разных помощников, можно будет выбрать. Что важно, если, например, вы выбираете воспитателя своим детям - важно, чтобы он транслировал ту картину мира, которую вы считаете правильной. Самостоятельность помощников будет повышаться, воспитатель детей - многофункциональный постоянно действующий ИИ. А нанимать ИИ для этой задачи будут - самим же возиться лень или нет времени (что одно и то же), и ИИ комфортнее и сильно дешевле, чем воспитатель-человек, это же софт в смартфоне. ИИ-помощники будут и узкие - планировщик отпуска, личный стилист, который вряд ли будет читать рекламы в нынешней форме, и покупать одежду после одобрения будет он, посоветовавшись о потребительских качествах с ИИ-помощниками, которые уже купили - для этого будут специализированные платформы. Оплачивать это все надо будет по подписке.
# На тренды социального развития общества ИИ в моей модели общества повлияет не сильно, он ее ускорит. Но у меня - оптимистичная модель, в ней нет, например, будущей горячей мировой войны. Подробное обсуждение - за рамками этих тезисов. Но если кратко, то основания для меня носят культурный характер: ядром противостояния старому лидеру является тройка Россия-Китай-Индия, которые по базовой культуре настроены договариваться, и будут договариваться, тем более, что понимают, что конфликт будут провоцировать.
# В какой-то момент кто-то из руководителей или владельцев решит, что продолжить дело его помощник сможет лучше, чем преемник. Даст доступ к счету - для этого же достаточно открыть браузер и войти в банк-клиент. И поставит вокруг систему, управляемую ИИ-агентами, предназначенную для обеспечения непрерывного функционирования производств, чтобы менеджеры отключить не могли. Или унесет в облака и там спрячет с резервированием. Будет присматривать, а потом перестанет. После первого прецедента будут последователи.
= Что можно отдать машине, а что - не получается =
Дальше было несколько слайдов, которые Петр повторно не комментировал, на которых перечислялось, что можно отдать машине, а что - пока не получается, поделенные по трем слоям схемы мыследеятельности, дополненной слоем способов самоорганизации. Он подробно не комментировал, и я не буду их переписывать. У участников слайды есть.
Но я хочу сохранить свой комментарий в чате по поводу некоторых пунктов, которые, как кажется, нельзя отдать машине. Для начала, мне кажется неверной сама бинарная постановка. Правильно спрашивать, какова автономность машины в рамках совместного мыследействия, а какова доля человека. И можно ли ее повышать, есть ли пределы. И это аналогично любому найму помощника или сотрудника: что можно ему отдать сейчас в автономное действие, к какому совместному действию можно привлечь и каков его потенциал.
Далее, почти по всем пунктам, которые не получается отдать машине, я вижу не просто потенциал когда-то в будущем, а возможность этого уже сейчас. Все пункты я разбирать не буду, но парочку прокомментирую. Вполне может быть, что по некоторым пунктам списка я не понимаю их настоящего пафоса, но так многие люди, думаю, тоже их понимают без пафоса.
# Постановка целей. Тут есть технологизированный процесс OKR. Ставится рамочная цель, например, удвоить выручку или запустить такой-то продукт, определяются критерии продвижения (для выручки - очевидно, для запуска - менее). Дальше вопрос о средствах - гипотезы, как ее можно достигнуть. Ранжирование гипотез по перспективности. Вопрос об экспериментах для проверки гипотез и их стоимости. Повторное ранжирование, потому как может есть гипотеза более скромная, чем топовая, зато легко проверяемая. И дальше - организация экспериментов конкретными командами людей (и машин). На всех шагах этого процесса GPT уже сейчас может вносить неплохой вклад, так что в деятельность команды. В конкретном случае он может оказаться решающим. Тут же как, когда ты предложил PT написать 20 вариантов, потом оценить каждый и ранжировать, а потом топ-3 отправил в работу - кто это сделал, он или ты? Один случай может быть случайностью, а если ты всегда отправляешь в работу топ-3 - то ты заменил в этой операции себя на GPT. Тут, кстати, что интересно. Ограничением менеджмента всегда было количество подчиненных на менеджера, особенно при плотном управлении. Возможно, GPT это ограничение снимает.
# Занятие позиции есть из коробки. Представь себя таким-то. B можно дополнить скриптом - каждое утро посмотрит такую-то инфу, проанализируй, реши что делать и так далее. Правда, это получается, если позиция стандартная. А если она нестандартная - ее надо сначала описать.
# Создание норм коллективной деятельности. Новые он, наверное, не создаст, но предложить усовершенствования - может. И предложить варианты организации работы новой команды - тоже. Он же все существующие знает. И этого - достаточно. Потому как, например, в ИТ была большая работа квалифицированной группой - проанализировать как реально ведутся проекты. Результат - примерно 220 практик, фреймворк рамочной организации и язык описания комбинаций, плюс библиотека с описаниями методов. Это я про OMG Essence.
# Выделять категории из текстов, а также рисовать схемы в заданном формализме GPT умеет уже сейчас. Я не знаю, есть ли среди формализмов категориальные схемы, но вообще онтологии аналогичны структурам классов, а диаграммы классов GPT разрабатывает и вроде рисует и понимает нарисованные.
# Проактивность и остановка действия - легко через регулярный скрипт для анализа изменений контекста и генерации идей, которые по некоторым критериям могут автоматом идти в исполнение, или наоборот, по мониторинг с оценкой происходящего по каким-то метрикам и сигналами остановки. Все это делают роботы, торгующие на биржах или мониторинг процессов.
= Какие видны изменения в профессиях =
Для занятия ИИ позиций СРТ, вероятно, потребуется еще доисследовать человека как биоида для успешного взаимодействия, а также по входу и выходу из СРТ. Исследования человека анонсировал только Маск.
Что будет происходить с традиционными профессиями? Не будет конкуренции машин с людьми, будут конкурировать люди без машин и люди с разными машинами.
* Обычные учителя будут понимать умным машинам в задачах обучения. Перейдет к ИИ, а они сопровождать. До сложных аспектов образовательного процесса не допустят.
* Учителя с высоким уровнем знаний - их было в России около 30, они в 22 уехали. И будут работать только с нестандартными ситуациями. Мотивация, работа с особыми потребностями, новые программы, критическое мышление, креативность.
* Есть шанс, что учитель впервые займется не политикой, а педагогикой.
* Обращение с умными машинами надо будет освоить, иначе ученики вообще не будут с ними взаимодействовать.
* Индивидуальность обучения заставит обращать внимание на социальные функции школы. Коммуникация и проектная работа ведь требуется. И новые функции.
Медицина - реальные результаты, прогнозы и анализ снимков. Исследование медицинских данных, первичная диагностика автоматизирована и проходить, индивидуальные схемы лечения, учет генетики, подстройка лечения под динамику состояния пациента. Компетентные - на консультировании и нейронок.
Юристы - тоже самое. Сложные дела, где нужно право и переговорной позицией. А остальное массово будет на ИИ, и даст массовую доступность простых юридических действий. Это как-то изменит социальную жизнь.
ИИ возьмет позиции администраторов, контролировать ход процесса, перераспределять ресурсы, люди - обрабатывать особые ситуации. ИИ будет предоставлять прогнозы, но не заменит социальные связи топов. Впрочем, я думаю, что у топов будут помощники-аватары, и их будут отправлять на переговоры, при чем ассиметрично: аватар с человеком. И, возможно, обнаружат, что аватары ведут переговоры лучше.
= Тренды будущего =
Цифровые помощники:
* инет вещей - интеграция сенсоров и облачных платформ. Работа почти без участия человека. Производственные и коммунальные сектора. Климат, ресурсы и так далее. Датчиков будут миллиарды, там нужны новые подходы и концепты, протоколов с обратной связью недостаточно.
* Совместно-распределенная деятельность. Миро и зум - удаленная работа, ковид интенсифицировал. teams, jira, confluence, много маленьких стартапов, но миро тоже был таким. И там очень много чего есть. Включая развитие традиционных офисных пакетов. Создание личных аватаров для имитации присутствия. Там - огромный потенциал. Тут развилка: погружение в виртуальный мир или объективация в общем пространстве.
* Ассистенты на ладони. web 3.0? контроль информации на пользователей, интеграция интеллектов и смарт-контрактов. Демонополизация рынка. Блокчейн и смартконтракты. И новая цифровая экономика. Помогать принимать решения и самоопределяться. Профилактика проблем, принимать решения быстро и точно. Обучаться предпочтениям и адаптироваться к стилю мышления, оптимизировать стиль общения. Переводить, предлагать переговоры, поддерживать связь между участниками в реальном времени. А заодно управлять финансами.
* Еще есть роботы-агенты и киборги, это он не комментирует.
Варианты общественного устройства.
* Цифровой феодализм: централизация власти, отсутствие собственности и пользователей, экономическая зависимость, отсутствие альтернатив.
* цифровая демократия, контроль данных пользователей, полный контроль за ними, децентрализованные платформы с децентрализацией властных ресурсов
* цифровой тоталитаризм - социальный кредит-рейтинг в Китае и так далее.
В обсуждении, Верховский.
* Эксперимент, который идет - когда люди рабочей профессии на местах оценивают состояние систем. Проект цифровой прораб - когда люди, оценивают состояние технических систем, общаются по рации с моделью, которая ставит задачи и получает ответы. Общаются на родном, привычном языке, там много стран. Если что - поддержка. В развитии - поскольку встроенная камера - дешевая, система наблюдает, логирует и выдает инструкции по совершенствованию навыков, индивидуальный план развития, по конкретным точкам: инструкция 65, задача номер 98 - и повысится грейд.
* Большинство из 8 млрд не имеет никакого доступа к образованию - а к этому будет, демократизация образования и перспективы.
* Любой сценарий - не только предсказание будущего, но и проектирование всего. Linux - децентрализованный, открытый, и сейчас - большинство. Генерализация любого сценария условна. А действия - позволяют оставить полезный артефакт.
* Ему нравится тезис: не надо стараться возглавить сценарий, надо услышать - и делать свою работу.
[[Категория:Щедровицкий. Может ли машина мыслить]]
{{red|'''Disclaimer. Это моя интерпретация лекций, неполная и дополненная собственными мыслями.'''}}
Лекция сегодня была посвящена сценарием будущего развития. Петр обосновал, почему сценарий крупного централизованного развития ИИ, который был позавчера, он считает наиболее вероятным и реалистичным. Хотя альтернативный децентрализованный сценарий, который он назвал романтичным, тоже возможен, хотя и менее вероятный. Вообще предполагалось, что после лекции Петра желающие смогут рассказать альтернативные варианты, но лекция заняла много времени. Но я, готовясь, написал тезисы о своем варианте и опубликовал их в чате группы, а теперь включаю в конспект. В терминологии Петра это - децентрализованный вариант.
Помимо обсуждения сценариев, была таблица функций, которые можно передать машине, и которые пока передать не получается и классификация трендов. А до сценариев Петр подробно рассматривал нынешнюю ситуацию с точки зрения промышленных революций. Это рассмотрение позиционирует ситуацию в ряду аналогичных и должно помочь сделать ставку.
В конспекте я немного перенес тезисы из обсуждения в конце в месте конспекта, где обсуждались эти вопросы, в основном это касается сценариев.
= Фазы промышленной революции и динамика инновационного проекта =
Тезисы - напоминание. Про промышленные революции было во второй лекции и многих других лекциях Петра, так что здесь был фокус на переходе между революциями.
* Петр ввел 0 революцию в Нидерландах. Дискуссии, был ли в Нидерландах промышленный капитализм, или только торговый, как писал Маркс, 150 лет. И Петр обосновал, что промышленный капитализм был.
* Центрами промышленных революций были только новые образования, до 0 революции не было Нидерландов, 7 объединились. Аналогично в Великобритании - Англия объединилась с Шотландией. США - они новые, а после войны Севера и Юга переформатирование.
* Сейчас - начальная стадия 3 революции, потому как нумерация с нуля.
* Каждая революция проходит три фазы
*: 1 фаза Складывается технологический и институциональный каркас. Складывается, его до этого нет. Для внешнего наблюдателя - незаметно, он видит отдельные артефакты.
*: 2 фаза - когда сложилось - начинается рост, в разном темпе.
*: 3 фаза - потенциал роста использования ресурсов и производительности исчерпывается и начинается стагнация.
* В самоопределении предпринимателя важно понимание стадий.
** На 3 фазе - СРТ уже сложилась и достигнуты пределы. Остается рента, в том числе технологическая. Капиталы идут с спекуляции и стимулирование спроса на старые продукты. Спекуляция вымывает товар из цикла, финансилизация. Из денег проще делать деньги, чем товары. Рост цен, предприниматель не может сделать расчет.
** Мы в начале новой стадии, условных 25 лет. Но все проблемы завершения предыдущей присутствуют, революции накладываются и в начале новой присутствует старая СРТ. На ее фоне новые процессы - скрыты, тут область ставок, а не область расчетов.
Динамика инновационного проекта в начале волны. Аналогичные фазы можно выделить и в других условиях, но в начале волны есть важная особенность: потребность в ценностях, которые дает новая технология, еще не сформированы.
# Замысел проекта, позиционирование относительно решения проблем завершающей стадии прошлой волны на новых технологиях. Еще не новые ценности для потребителя, а старые. Проекция будущего в настоящее. Есть разница между ситуации с проблемами (пока нет конкретной проблемами) и проблемную ситуацию (есть конкретная проблема). Денис Ковалевич полагает, что это - преждевременно для предпринимателя, он работает от точки сформировавшегося спроса, а на этой стадии риски слишком велики. Но актуализация ценностей - это конец первой стадии, до этого все проекты будут именно такими.
# Формирование архитектуры проекта. Субъективное представление о ценности и прибыли - можно вступать в кооперацию. Но вокруг все - из старой СРТ, несут ее в деятельности и в понимании, mindset. B их надо вовлечь, с учетом их представлений о ценностях. И держатели производства, и команда проекта и потребители должны понять и принять ценность, и дальше - оценивать вклады. Каждый участник обычно переоценивает свой вклад. Увеличение вклада участника не означает увеличение прибыли. И тут надо договориться о прибыли, оно должно стать интерсубъективным. Предприниматель их расставляет. Я отмечу, что если слишком жестко расставляет - они уходят). Должны договориться по распределению прибыли и вложениям. Есть вклады в виде капитала и труда, и ценность денег зависит от потребности. Забота предпринимателя - сдержать перенос ценности продукта на ценность вкладываемых факторов, чтобы была высокая прибыль проекта. Важно соблюдение обязательств и конфиденциальности. А после масштабирование может быть технологическая рента.
# Долина смерти. После запуска выручка не покрывает затрат. Это может быть годами, тут история Эдисона, которая будет дальше. На этом этапе может не хватить ресурсов.
# Масштабирование. Добиться признания ценности - сложно. Производство должно быть массовым, чтобы были сетевые эктерналии. Чем шире круг участников, признавших ценности блага, тем шире в СРТ. Они копируют, идет трансформация СРТ. Увеличивается вширь больше), ввысь (большее значение) и вглубь (изменение СРТ и новые ценовые пропорции). На этом этапе вопрос в том, чтобы повышение ценности не перешло в рост цен материалов и издержек.
# Формирование новой нормы. Новые ценности формируют новые ценовые пропорции. Объективируются и субъективируются в них. Старые СРТ разваливаются, новые складываются. Или старые остаются в одних странах, а новые - в других, с перераспределением межстранового СРТ и капиталов. Формируются платформы, новая ценность переносится на ключевые узлы платформ. Для этого важна стабильность денег, это в середине большой волны, не в конце. Наличие здоровой системы очень важно, это становится основой интеграции новой ценности в общество.
# Рутинизация. Помимо распространения новой ценности, масштабов производства, включая подражателей. Платформа дает прибыль, но дальше она снижается, норма прибыли снижается. Капиталы пробуют уйти в другое место, но там жесткая система, и системы начинают не расширяться, а рушится.
Текущий 2024 аналогичен 1874, 1724 и 1574 (возникновение объединенных провинций - 1572). Можно посмотреть, какие предпринимательские проекты тогда были. Отмечу, правда, что у такого анализа проблема ошибки выжившего. В теории можно смотреть и провалы, а не только успехи,
В любом случае - вопрос как и когда будет новый продукт. И там предвидение будущего спроса, для потребителей, которого нет, и экономика. То есть тут вопрос - насколько угадал, предвидел ценность, помог формированию, и насколько попал в ее удовлетворение (или расчистил площадку для других). Вся прибыль - в будущем.
Правда, тут я отмечу, что с ИИ нестандартная ситуация: ценность ИИ сформирована в общественном сознании уже в 1960-е. Потому она стояла на стопе "пока не можем". Экономическую ценность, конечно, надо доказывать, но на уровне информационного поля проблем нет. не надо прорываться через барьер непонимания. Хотя опасения тоже сформировали, но с этим можно работать.
История лампочки Эдисона. В 1880 - первая фабрика, через год - еще один завод. 1881 себестоимость лампочки была 1.1$. Для широкого использования ламп, которые были новыми благами, нужна доступная цена продажи. Эдисон разработал план завоевания потребителя, с расчетом что с начала цена 0.4$ и не менялась. А с развитием технологий цена производства должна снизится, и потом покрыть убытки. В 1882 себестоимость снизилась до 0.7, масштаб вырос, и годовой убыток стал больше. В 1883 ряд ручных операций заменили на машинные и улучшена технология, до 0.5. Но количество изготовленных ламп возросло, что убытков больше. В 1884 году себестоимость 0.37, и за 1 год он возместил убытки. На 1885 году 0.22 а выпуск 1м в год - и это прибыль, которая дальше увеличивалась.
История интересная, и я полез смотреть подробности и окружение. Во-первых, одних лампочек было недостаточно, им еще было нужно электричество. Эдисон, кроме лампочек, производил динамо-машины. Возможно, это были комплексные проекты - электростанция, сеть проводов, освещение, хотя могли быть и отдельные продажи. А если это комплексный муниципальный проект, то городским властям надо было гарантировать, что лампочки будут доступны, потому что на электростанцию они, наверное, могли собрать, а на лампы нет. А лампы тогда работали не долго. Но в таком случае себестоимость лампочки - это ни о чем, надо смотреть экономику проекта в целом, учитывая динамо-машину. Во-вторых, Эдисона поджимали конкуренты. Он работал с постоянным электрическим током, и там все было готово в 1879, а в 1880 это впервые установили на пароходе, а первая станция была в 1882. Конкуренты, Thomson-Houston Electric, работали с переменным. У них что-то не ладилось компанию с инвестициями они смогли сделать в 1882, а первую станцию - в 1886. Но про опыты наверняка было известно, были другие конкуренты, там еще American Electric была основана тоже в 1880. Так что, вполне возможно, было решение J.P.Morgan, который финансировал компанию Эдисона, под репутацию и обещания, что с себестоимостью разберутся, для захвата рынка. И это оправдалось: переменный ток был более эффективным, но рынок был уже занят и в 1892 Edison Electric купила их, а объединенную компанию назвали General Electric. Любопытно, что главой объединенной новой компании стал президент Thomson-Houston, а Эдисон в 1894 продал свои акции, оставшись консультантом. В общем, в более широкой рамке история получается сложнее, и не факт, что Эдисон там - основной предприниматель.
= Сценарии развития текущей ситуации =
Текущая стадия промышленной революции - середина первой фазы
* Новая СРТ не сложилась, а старая растеряла потенциал
* В этой стадии - перепроизводство инженерных инициатив и решений, большая часть которых - на прошлой волне
* Деньги - из старой СРТ
* И все это надо рассматривать в контексте изменений международной СРТ.
Получается следующая ситуация
* Когда ChatGPT используют в старой СРТ, потенциал невелик, и не может обеспечить долгосрочной прибыли.
* Непонятно, где будет рост СРТ. И как начнется. По разным трендам время течет неравномерно.
* При этом часть мест финансируется военными и госами, экономика искажена.
* Предприниматели смотрят на инженерные изобретения и не очень понимают перспективы, живут в старой СРТ.
* Смотрят на финтех, а не процессы и материалы - потому как спекуляции на третьей фазе предыдущей волны как раз на пике.
* Прогнозируют рост инвестиций, но надо смотреть на происхождение: произошел перенос из старого, или нет.
* Стартап студии растут быстро, в них копится вертикальная составляющая - но инженерная, а не предпринимательская.
Было ли это в прошлом? Было. В 1697 Дефо написал эссе Век прожектерства. Это как раз конец 3 фазы 0 революции. Он описал удивительное явление: авантюристы обогащались. предлагая властям разные проекты.
Петр различает лидерские индустриализации и догоняющие, которые могут быть предпринимательские и административные. Лидерские всегда были предпринимательскими. Они происходят за счет того, что в силу разных причин на одной территории собирается много предпринимателей, которые все время ищут новые проекты. И в какой-то момент складыватеся.
В 1660 William Petty в Англии пишет книгу, в которой задается вопросами: почему в Нидерландах каждый человек получает 18 центов в день, а у нас 6? Нас больше, у нас флот, больше ресурсов, мы выиграли первую войну. А они все равно получают больше. У него разные ответы. А Петр думает - предпринимательство.
Понятно, то появляется идея собрать административно ресурсы и направить на догоняющую индустриализацию. Кольбер: почему голландцы даже наши каботажные маршруты контролируют и шляпы у нас делают? И он начинает создавать торговые компании, импортозамещать и так далее. И через 20 лет - полный коллапс. И когда король вызывает и спрашивает - где, то советует войной пойти.
На каждом такте разрыв вырастает. Между Францией и Голландией 1675 - почти никакой разницы. Между США, Францией и Германией в конце первой революции - похоже. США работает за счет предпринимательства, а Германия административно. Важно: администрирование на каждом шаге - все жестче. Иначе не получится. в том числе это относится к администрированию в тех странах, которые были лидерами. Предпринимательская - пунктиром, высоко, а административная - массовая и расширяется. Кто-то достигает, кто-то в серединке.
Растет масштаб конфликтов. Идут войны следующих типов
* гражданские конфликты внутри стран, в том числе претендентов на лидерство - в странах претендентов конфликт между новым и старым там больше.
* множественные конфликты между странами за места в международной СРТ. Включая 1 и 2 мировые войны.
* конфликт между ведущим претендентом на лидерство в ходе новой революции и старым лидером
Почему создание больших кластеров и введение режима секретности Петр полагает высоковероятным? Потому что на 3 стадии 2 пром.революции наибольший вызов для старой системе приходит со стороны военных конфликтов. Дроны: последний Карабах, Украина, Ближний восток, в будущем Тайвань - страны включатся в новую гонку вооружений. Он не рад сценарию, но считает его вероятным.
При этом сценарий Мегапроектов он считает реалистичным сейчас, но его реализация может подготовить почву для иного. Проблема в моменте: если посмотреть на войны - они смещаются к началу волны и это - плохо.
ВПК не является источником инноваций, но это не мешает ему разворачиваться, брать власть. ВПК может как создавать инженерный навес нового, так и продолжать развитие старого, развивать. Это как раз вторая мировая. Чем слабее позиции стран уходящей волны, тем больше вероятность, что они пойдут на альянс с административной системой. Но жесткая рамка заказа - сделает прагматизацию, без исследований. Это в рамках основного сценария. А в децентрализованном - освобождается.
И была реплика Николая Верховского про основной сценарий. Разработчики ИИ, понимая ограничения, приходят к выводу, что энергоемкость и материалоемкость зависит от архитектуры мыслительного процесса, самого работы GPT внутри семантического поля. В новых версиях они вставляют рассуждения, и еще показывают, как рассуждала GPT в логах. B это снижает энергоемкость. А еще дает реальное, а не виртуальное объяснение, как пришли к решению. Есть надежда на большой заказ и возможность. Но может оказаться, что такие деньги не соберут. Получается, что одни просят 5 трлн, а другие предлагают альтернативы. И сейчас идет драка, как делать. Но исследований нет. Из закрытых конференций - машину на чипе режут модулями и рисуют волшебные структуры.
А я тут должен отметить, что для дронов нужны легкие локальные решения, а не мегаИИ, о котором проект. Хотя, конечно, военных можно в разном убедить.
Про децентрализованный сценарий Петр сказал, что у него есть свои трудности: блокчейн - медленный, доступность для широких кругов - под вопросом. Это романтическое направление: все люди научатся жить, и станут сами себе хозяевами. И менее вероятный.
Я тут отмечу, что блокчейн - не обязателен, хотя есть те, кто за него топят. Вообще сценариев много, они включают мировоззренческую и технологическую составляющую, надо разбираться на следующем уровне подробности в деталях. Я тут недавно прочитал Бердяева Истоки русского коммунизма, и там явно видно, что нельзя просто делить на тех, кто был за монархию и против, там было много разных движений, а победило одно.
В конце революции образуются инженерные решения - они просто накапливаются, потому что без применения. НАСА - пример сплоченного, но неспособного коллектива. Пришлось уволить, они устроились в стартапы, там много. Инженерные проекты живут своей жизнью. Иногда за счет предпринимателей.
Онтологически у лидера текущей нет шанса стать следующей - они сохранили структуру. И одна из проблем США - как сохранить, они не могут смириться. До 1 мировой Британцы надеялись вернуть. Предприниматели, интуитивно понимая - инвестируют в другие точки. Голландцы с 1675 не инвестировали в Голландии, они по всему миру (Англия, Франция, Россия, колонии, Англия). Не надо делать инъекцию в протез. А элиты пытаются удержать.
Реплика Верховского. В промреволюциях - всегда флажки стран. Но реально там масса предпринимателей, складывается по миру, и дальше ищет, где локализовать, где институты меньше мешают.
Петр. В начале - возможно. Голландское чудо складывали немецкие протестанты, пираты, евреи из Португалии и так далее. И шла война за независимость, и внешнее давление было важнее внутренрих конфликтов. А как война закончилась - стало печалька.
А в Англии элиты колоний начали использоваться как противовес. США вышел совсем, а другие - имели позиции, сдерживали, и это вторая сторона. Англия и США - колониальный тип. Индия для Англии - экстерниализация безопасности, офицеры из Англии, а солдаты оттуда и не отвлекали англичан от труда на производстве.
Я тут отмечу, что сложилась нестандартная ситуация: основное количество инженеров, работающих с технологиями старой волны - в США, и там это сознательная политика. Вообще новая волна будет особенной, потому что теория волн и промышленных революций хорошо проработана и известна правящим социальным группам. И они не ждут, а действуют, и начали это больше полувека назад с попытки остановить технологический прогресс, а заодно и рост населения - римский клуб, концепция устойчивого развития и так далее. У Переслегина, кстати, это поломало его теорию волн развития, которые у него короче революций Петра: пятая волна, которая началась около 1960, получилась нестандартной.
Если американское правительство вложится, решая другие задачи: сохранение геополитики, стабилизация расходной части населения, стабилизация отношений между штатами. Мегапроект может это решить. Не факт, что запустят, могут оценить, что новый Манхеттен не потянуть. Еще могут запустить, но не добиться результатов. Но все равно сделают существенный кусок: сформируется пузырь, лопнет, много всего останется.
= Мой сценарий развития =
В этом месте уместно поместить тезисы по моему сценарию развития. Я их написал и опубликовал до лекции Петра. Если кратко - я за децентрализованный сценарий, в котором не вижу ограничений.
# Есть много разных конкретных задач, которые интересно переложить на компьютер по разным причинам, ИИ расширяет классы возможного.
# В сценарии я опираюсь на развитие софта - базы данных, ERP и другие, потому что они решали те же самые задачи, в деятельности, но у них - другие технологические возможности. При этом у баз данных разнообразие задач поуже, у ERP - пошире, и сценарии - различны. Где задачи ИИ находятся в этом ряду не понятно.
# Флагманы (OpenAI) сделали ставку на один продукт-монстр, который будет для всех задач, потому как все их делает человек, значит все они одинаковы. При этом уже продукт не один, есть несколько крупных конкурентов, за ними идут конкуренты поменьше, это повторяет ситуацию скорее с базами данных, чем с ERP.
# Флагманы решили монополизировать рынок, может, разделить на двоих-троих, через регулирование. А заодно продать государству как стратегический ресурс. Через регулирование можно все угробить, но я считаю, что все угробить таким образом не получится, а свое преимущество они рискуют потерять, потому что если OpenAI придут управлять генералы или бюрократы, то там рассыплется. Будет больше альтернатив, они будут догонять. Что по поводу этого говорят флагманы - фигня, это как Oracle объяснял, то его не догонят.
# Конечные задачи решаются малыми командами собиранием человеко-машинных системы из разных ИИ и поддерживающих людей по агентской схеме. Люди работают на стадиях конструирования, сборки схем и их обучения и на сопровождении, то есть перестройке и дообучении. А также следят за операционной работой и вмешиваются - как руководитель следит за работой отдела. Там есть точки развития технологий, например, научиться методологически технологично собирать тестовые наборы, чтобы сравнивать разные решения, и при этом избегая эффекта, чтобы агент чрезмерно подстраивался под тестовые данные. Принципы и подходы для этого есть, отработаны на системах аналитики и других, но надо перенести. И именно они выбирают, что использовать как базу ИИ-агентов, можно собрать из нескольких агентов ChatGPT, или несколько разных платформ, включая традиционные вычислительные программы.
# Многие задачи требуют локального развертывания по нормативным соображениям, и уже есть модели, которые можно развернуть на кластерах, доступных небольшому университету или компании, и даже на машине разработчика. И там возможна архитектура с узкими специализациями, например базовая LLM общего назначения для диалога, к которой подключена модель, тренированная для узкого класса задач. Или не очень узкого, например, написания кода на почти 200 языках программирования - оказалось, что это однородная задача. И обучать такие модели тоже может небольшая команда на разумных мощностях, это может быть частью проекта. Появляются аналогичные платформы для физически действующих роботов, и их тоже может использовать и доводить небольшая команда. Вообще, подсоединить исполнительный механизм к ИИ - не проблема, автопилоты рулят окружающим миром.
# У ИИ, в отличие от людей, нет ограничения, что специалиста можно нанять только на полную ставку (или на полставки) - он может отвечать на специализированный вопрос, и команды агентов могут быть большими. Часть агентов делают просто персонализацией промптов: ответь как такой-то специалист, учитывая это и это, ИИ умеет занимать производственное рабочее место, особенно уже существующее в СРТ для человека. При этом, если вопрос не является уникальным, а встречается в задачах по всему миру, то модель получается повторно-используемой. Ее могут продавать, а могут выложить в открытый доступ - все равно в ходе проекта ее сделали, а для команды есть бонус, что ее наймут дообучать эту или сделать аналогичное.
# Децентрализованное развитие снимает все препятствия СРТ, о которых шла речь, кроме социальных и экзистенциальных. С энергетикой разберутся, ее хватает, надо учить умнее, а часть проблем, типа тантала - просто надуманные. И люди для обучения и конструирования тоже находятся, для многих задач сверхвысокой квалификации не требуется, будут команды, решающие задачи разной сложности.
# По социальным проблемам - независимо от того, что выплескивают на широкие массы, в основе - консервативные посылы существующих социальных институтов управления обществом, как общего характера, так и частных, например, профессиональных сообществ, таких как юристы. То есть они исходят из социальных групп, устроивших ренту из управляющих позиций. Ретроспективно оценивая, думаю, что остановить прогресс у них не получится. Одних сметут, потому как их монополия уже достала другие группы, с другими - договорятся.
# Проблемы этики, ответственности за действия, целеполагания, объяснения действий и другие экзистенциальные проблемы - мнимые, для разгона страхов. ИИ справляется не хуже человека, а местами - лучше, и этого достаточно. Если распространить предъявляемые к автопилотам требования на всех водителей, то водить машины надо всем запретить. И так далее. Многие из этих проблем снимет военное применение ИИ, которое уже есть и активно развивается.
# Начнется все с ИИ-помощников, вернее уже началось и пойдет экспотенциально. И их применение, и настройка не сложнее работы с смартфоном или компьютером, или обучения помощников-новичков. Перед людьми у ИИ есть преимущества - они не болеют, неутомимы и, главное, готовы признать и исправить свои ошибки. ИИ-художник или дизайнер не отвечает "не учите меня рисовать, я художник - я так вижу". У него нет эффекта Даннинга-Крюгера переоценки возможностей. И так далее. Так что лет через пять они будут у каждого, как сейчас есть смартфон, а уровень использования будет различным. При этом будет много команд и компаний, которые будут создавать разных помощников, можно будет выбрать. Что важно, если, например, вы выбираете воспитателя своим детям - важно, чтобы он транслировал ту картину мира, которую вы считаете правильной. Самостоятельность помощников будет повышаться, воспитатель детей - многофункциональный постоянно действующий ИИ. А нанимать ИИ для этой задачи будут - самим же возиться лень или нет времени (что одно и то же), и ИИ комфортнее и сильно дешевле, чем воспитатель-человек, это же софт в смартфоне. ИИ-помощники будут и узкие - планировщик отпуска, личный стилист, который вряд ли будет читать рекламы в нынешней форме, и покупать одежду после одобрения будет он, посоветовавшись о потребительских качествах с ИИ-помощниками, которые уже купили - для этого будут специализированные платформы. Оплачивать это все надо будет по подписке.
# На тренды социального развития общества ИИ в моей модели общества повлияет не сильно, он ее ускорит. Но у меня - оптимистичная модель, в ней нет, например, будущей горячей мировой войны. Подробное обсуждение - за рамками этих тезисов. Но если кратко, то основания для меня носят культурный характер: ядром противостояния старому лидеру является тройка Россия-Китай-Индия, которые по базовой культуре настроены договариваться, и будут договариваться, тем более, что понимают, что конфликт будут провоцировать.
# В какой-то момент кто-то из руководителей или владельцев решит, что продолжить дело его помощник сможет лучше, чем преемник. Даст доступ к счету - для этого же достаточно открыть браузер и войти в банк-клиент. И поставит вокруг систему, управляемую ИИ-агентами, предназначенную для обеспечения непрерывного функционирования производств, чтобы менеджеры отключить не могли. Или унесет в облака и там спрячет с резервированием. Будет присматривать, а потом перестанет. После первого прецедента будут последователи.
= Что можно отдать машине, а что - не получается =
Дальше было несколько слайдов, которые Петр повторно не комментировал, на которых перечислялось, что можно отдать машине, а что - пока не получается, поделенные по трем слоям схемы мыследеятельности, дополненной слоем способов самоорганизации. Он подробно не комментировал, и я не буду их переписывать. У участников слайды есть.
Но я хочу сохранить свой комментарий в чате по поводу некоторых пунктов, которые, как кажется, нельзя отдать машине. Для начала, мне кажется неверной сама бинарная постановка. Правильно спрашивать, какова автономность машины в рамках совместного мыследействия, а какова доля человека. И можно ли ее повышать, есть ли пределы. И это аналогично любому найму помощника или сотрудника: что можно ему отдать сейчас в автономное действие, к какому совместному действию можно привлечь и каков его потенциал.
Далее, почти по всем пунктам, которые не получается отдать машине, я вижу не просто потенциал когда-то в будущем, а возможность этого уже сейчас. Все пункты я разбирать не буду, но парочку прокомментирую. Вполне может быть, что по некоторым пунктам списка я не понимаю их настоящего пафоса, но так многие люди, думаю, тоже их понимают без пафоса.
# Постановка целей. Тут есть технологизированный процесс OKR. Ставится рамочная цель, например, удвоить выручку или запустить такой-то продукт, определяются критерии продвижения (для выручки - очевидно, для запуска - менее). Дальше вопрос о средствах - гипотезы, как ее можно достигнуть. Ранжирование гипотез по перспективности. Вопрос об экспериментах для проверки гипотез и их стоимости. Повторное ранжирование, потому как может есть гипотеза более скромная, чем топовая, зато легко проверяемая. И дальше - организация экспериментов конкретными командами людей (и машин). На всех шагах этого процесса GPT уже сейчас может вносить неплохой вклад, так что в деятельность команды. В конкретном случае он может оказаться решающим. Тут же как, когда ты предложил PT написать 20 вариантов, потом оценить каждый и ранжировать, а потом топ-3 отправил в работу - кто это сделал, он или ты? Один случай может быть случайностью, а если ты всегда отправляешь в работу топ-3 - то ты заменил в этой операции себя на GPT. Тут, кстати, что интересно. Ограничением менеджмента всегда было количество подчиненных на менеджера, особенно при плотном управлении. Возможно, GPT это ограничение снимает.
# Занятие позиции есть из коробки. Представь себя таким-то. B можно дополнить скриптом - каждое утро посмотрит такую-то инфу, проанализируй, реши что делать и так далее. Правда, это получается, если позиция стандартная. А если она нестандартная - ее надо сначала описать.
# Создание норм коллективной деятельности. Новые он, наверное, не создаст, но предложить усовершенствования - может. И предложить варианты организации работы новой команды - тоже. Он же все существующие знает. И этого - достаточно. Потому как, например, в ИТ была большая работа квалифицированной группой - проанализировать как реально ведутся проекты. Результат - примерно 220 практик, фреймворк рамочной организации и язык описания комбинаций, плюс библиотека с описаниями методов. Это я про OMG Essence.
# Выделять категории из текстов, а также рисовать схемы в заданном формализме GPT умеет уже сейчас. Я не знаю, есть ли среди формализмов категориальные схемы, но вообще онтологии аналогичны структурам классов, а диаграммы классов GPT разрабатывает и вроде рисует и понимает нарисованные.
# Проактивность и остановка действия - легко через регулярный скрипт для анализа изменений контекста и генерации идей, которые по некоторым критериям могут автоматом идти в исполнение, или наоборот, по мониторинг с оценкой происходящего по каким-то метрикам и сигналами остановки. Все это делают роботы, торгующие на биржах или мониторинг процессов.
= Какие видны изменения в профессиях =
Для занятия ИИ позиций СРТ, вероятно, потребуется еще доисследовать человека как биоида для успешного взаимодействия, а также по входу и выходу из СРТ. Исследования человека анонсировал только Маск.
Что будет происходить с традиционными профессиями? Не будет конкуренции машин с людьми, будут конкурировать люди без машин и люди с разными машинами.
* Обычные учителя будут понимать умным машинам в задачах обучения. Перейдет к ИИ, а они сопровождать. До сложных аспектов образовательного процесса не допустят.
* Учителя с высоким уровнем знаний - их было в России около 30, они в 22 уехали. И будут работать только с нестандартными ситуациями. Мотивация, работа с особыми потребностями, новые программы, критическое мышление, креативность.
* Есть шанс, что учитель впервые займется не политикой, а педагогикой.
* Обращение с умными машинами надо будет освоить, иначе ученики вообще не будут с ними взаимодействовать.
* Индивидуальность обучения заставит обращать внимание на социальные функции школы. Коммуникация и проектная работа ведь требуется. И новые функции.
Медицина - реальные результаты, прогнозы и анализ снимков. Исследование медицинских данных, первичная диагностика автоматизирована и проходить, индивидуальные схемы лечения, учет генетики, подстройка лечения под динамику состояния пациента. Компетентные - на консультировании и нейронок.
Юристы - тоже самое. Сложные дела, где нужно право и переговорной позицией. А остальное массово будет на ИИ, и даст массовую доступность простых юридических действий. Это как-то изменит социальную жизнь.
ИИ возьмет позиции администраторов, контролировать ход процесса, перераспределять ресурсы, люди - обрабатывать особые ситуации. ИИ будет предоставлять прогнозы, но не заменит социальные связи топов. Впрочем, я думаю, что у топов будут помощники-аватары, и их будут отправлять на переговоры, при чем ассиметрично: аватар с человеком. И, возможно, обнаружат, что аватары ведут переговоры лучше.
= Тренды будущего =
Цифровые помощники:
* инет вещей - интеграция сенсоров и облачных платформ. Работа почти без участия человека. Производственные и коммунальные сектора. Климат, ресурсы и так далее. Датчиков будут миллиарды, там нужны новые подходы и концепты, протоколов с обратной связью недостаточно.
* Совместно-распределенная деятельность. Миро и зум - удаленная работа, ковид интенсифицировал. teams, jira, confluence, много маленьких стартапов, но миро тоже был таким. И там очень много чего есть. Включая развитие традиционных офисных пакетов. Создание личных аватаров для имитации присутствия. Там - огромный потенциал. Тут развилка: погружение в виртуальный мир или объективация в общем пространстве.
* Ассистенты на ладони. web 3.0? контроль информации на пользователей, интеграция интеллектов и смарт-контрактов. Демонополизация рынка. Блокчейн и смартконтракты. И новая цифровая экономика. Помогать принимать решения и самоопределяться. Профилактика проблем, принимать решения быстро и точно. Обучаться предпочтениям и адаптироваться к стилю мышления, оптимизировать стиль общения. Переводить, предлагать переговоры, поддерживать связь между участниками в реальном времени. А заодно управлять финансами.
* Еще есть роботы-агенты и киборги, это он не комментирует.
Варианты общественного устройства.
* Цифровой феодализм: централизация власти, отсутствие собственности и пользователей, экономическая зависимость, отсутствие альтернатив.
* цифровая демократия, контроль данных пользователей, полный контроль за ними, децентрализованные платформы с децентрализацией властных ресурсов
* цифровой тоталитаризм - социальный кредит-рейтинг в Китае и так далее.
В обсуждении, Верховский.
* Эксперимент, который идет - когда люди рабочей профессии на местах оценивают состояние систем. Проект цифровой прораб - когда люди, оценивают состояние технических систем, общаются по рации с моделью, которая ставит задачи и получает ответы. Общаются на родном, привычном языке, там много стран. Если что - поддержка. В развитии - поскольку встроенная камера - дешевая, система наблюдает, логирует и выдает инструкции по совершенствованию навыков, индивидуальный план развития, по конкретным точкам: инструкция 65, задача номер 98 - и повысится грейд.
* Большинство из 8 млрд не имеет никакого доступа к образованию - а к этому будет, демократизация образования и перспективы.
* Любой сценарий - не только предсказание будущего, но и проектирование всего. Linux - децентрализованный, открытый, и сейчас - большинство. Генерализация любого сценария условна. А действия - позволяют оставить полезный артефакт.
* Ему нравится тезис: не надо стараться возглавить сценарий, надо услышать - и делать свою работу.
[[Категория:Щедровицкий. Может ли машина мыслить]]
