6911
правок
Изменения
м
→Теория Active Inference
{{Conf-Ref}}
В эти выходные, 22-23.04.2023 была '''конференция Школы системного менеджмента Анатолия Левенчука''' «Современная системная инженерия и менеджмент — 2023». Школа — одна из точек движения фронтира по обучению и мышлению, поэтому участие в конференции для меня очень важно: понять движение, получить новые идеи. Я на конференции уже пятый раз, и пару раз выступал, а в этот раз — без выступления. Этот текст — не пересказ выступлений, которые всегда очень насыщены, а тезисы, которые важны мне самому. Включая мои мысли по поводу идей, высказанных в докладах. А записи выступлений можно увидеть на канале Школы https://t.me/system_school, там же выложены презентации, обычно — в комментариях к постам по конкретным докладам, где также были ответы на вопросы. [https://t.me/system_school/1571 Программа конференции], и дальше на канале посты с трансляцией, обсуждениями докладов и публикация записей.
= О движении Школы в целом =
Теория Active Inference описывает общие законы информационной эволюции. При этом эволюция и организация живых систем, обучение людей и ИИ, развитие знания в целом представляют собой частные примеры информационной эволюции. Этой теме было посвящено два доклада.
Первый — '''Роман Левентов, Алаймент ИИ с точки зрения Active Inference'''. В докладе было содержание теории в приложении к ИИ. Идея: различается внутреннее состояние обучаемой системы, внешнее состояние и два потока: получения информации и наоборот, выдача ее наружу. Идея в том, что идет усложнение мылительных конструкций (идеальных объектов) для повышения предсказательной силы нейронной сетки, уменьшения ошибок. Это и есть алаймент. На слайдах было подробнее, с формулами и тезисами.
Из доклада неясно, как эта модель описывает вопросы целеполагания и выбора направлений эволюции, способ выбора в точках ветвления. А, несмотря на пассивный хараткер ChatGPT, который отвечает на вопросы, такие точки — есть. Сейчас в GPT можно загрузить документ и попросить «выскажи пять важных замечаний к документу». При чем эту задачу можно сделать регулярной: грузишь содержимое каких-нибудь чатиков и просишь высказаться. Можно попросить предложить изменения документа, устраняющие его же замечания. Можно попросить написать SRS на систему при каких-то вводных, можно попросить написать код. В общем, это не полноценно активный агент, но ряд активных операций при выполнении таких запросов появляются. Я спросил на обсуждении доклада, там была ссылка на пропущенный из-за времени в рассказе слайд, где это частично рассмотрено.
Второй доклад '''Александр Вяткин, Техно-эволюция Active Inference Institute'''. ШСМ соучаствовал в организации института и тесно взаимодействует. Рассказ был посвящен организации работы института через формулирование соответствующих онтологий. Институт применяет для своей организации ту же теорию, что и для всего остального, и организует себя как информационную структуру мемов, мемомов и других объектов. На слайдах были конкретные структуры, это интересно.
= Анатолий Левенчук. Стратегия ШСМ в области AI =