Вчера был на Фронтире с Дарьей Фетисовой, корпоративным философом Neiry по теме «Этические кодексы в современном мире». Ей не нравится «корпоративный философ» – ассоциации с человеком в тоге, который ходит по офису и пристает к сотрудникам с вопросами. Поэтому она предпочитает называться «консультантом по этическим вопросам», тем более что это соответствует реальной ситуации. Ее задача – работа с этическими вопросами.

Neiry работает с исследованиями мозга, делает чипы, электроды для стимуляции, проводит исследования по фиксации эмоциональной реакции и запоминанию мозга в ответ на разные материалы – это используется в маркетинге, профориентации или мониторинга состояния водителей, чтобы он не заснул за рулем. Все это – пограничная область, где регулирования нет. Но это не значит, что можно делать что хочешь: если так поступать, то придут регуляторы и все прикроют. Потому что всегда есть интересанты, получающие доход от существующего положения вещей, и новые исследования. которые потенциально дают новые методы решения для старых проблем представляют для них опасность. Что хорошо показывает история ГМО, которую прикрыли на гранты производителей химических удобрений.

При этом в нашей стране для исследований на людях и животных закон прямо требует внешних этических комитетов, которые одобряют каждый проект. А Дарья обеспечивает предварительную подготовку внутри – оценку проектов, подготовку к таким комитетам, разработку этического кодекса, потому что у работы должны быть принципы. Кодексы создают позитивный имидж компании и могут лечь в основу будущего регулирования, не запрещая продвижение вперед. а разумно его ограничивая.

Дарья рассказывала про сами кодексы и про конкретные кейсы. С кодексами – печалька, прагматичных образцов практически нет. Международные рекомендации, например, ЮНЕСКО и Китая, включают не реалистичные пожелания, по которым «компания должна предусмотреть все риски» и подобные им. Единственный прагматичный пример – от американского производителя медицинского оборудования Science, где четко написано: так играем, так не играем, а вот здесь будем разбираться в будущем. Есть сайт нейроэтика.рф – там ссылки на мировой опыт и вариант от Neiry.

C основаниями этических кодексов – тоже печалька, даже больших размеров. Потому что никакой общепринятой системы ценностей нет, если свести все ценности целиком, то получается противоречивая конструкция, а вопросы прагматического баланса не обсуждаются. То есть понятно, например, что инклюзивность людей не должна сильно нарушать права других людей. Например, инклюзивность людей, подверженные беспричинным приступам агрессии не должна подвергать других опасности быть зарезанными или ранеными этими людьми на улице. Но практические границы проведены ad hoc, и подвергаются оспариванию. И так со всеми ценностями.

В прагматичном залоге – кодексы делают для каждого направления отдельно, потому что нейромаркетинг и смежные темы неинвазивными технологиями, электростимуляция мозга человека и животных сильно различается. И каждый проект рассматривается отдельно. Задача Дарьи – фасилитировать обсуждения, вытаскивать неявные убеждения о ценностях, на основании которых делаются конкретные суждения и подвергать сомнению их основания – только так можно разобраться в противоречиях у разных людей и придти к взвешенному мнению. Особенно когда этика и коммерция противоречат.

Вопросы носят практический характер, Дарья рассказывала иностранные кейсы – когда люди получали электростимуляцию в рамках исследовательской программы, а потом компания банкротилась, и они оставались без обслуживания. Или ее же на спинном мозге применяли для обезболивания после серьезных операций вместо лекарств, а потом выяснялся риск летального исхода, и компания просто информировала. Впрочем, с моей точки зрения по этому кейсы оставить решение за пациентом – правильно. Но с точки зрения российского законодательства, если при этом с пациентом что случится, то у компании большой риск ответственности. Вообще метод электростимуляции применяется с 1960-х для эпилепсии и болезни Паркинсона, и эффективно: тремор при болезни Паркинсона исчезает прямо во время операции. Но с побочными эффектами: может пробудиться страсть к азартными играм, гиперсексуальность, сильно измениться характер. И область применения постоянно пытаются расширить, например, включить депрессию.

Вообще, с моей точки зрения, решение за пациентом в форме информированного согласия – это правильно, я так и сформулировал на обсуждении. С другой стороны, есть прецедент – массовые операции лоботомии в середине 20 века в Штатах, чтобы удержать агрессию пациентов. В результате пациент полностью терял волю и становился удобным для окружающих, поэтому родственники массово уговаривали пожилых на такую операцию, особенно если у тех были деньги, с которыми они не хотели расставаться. Или под предлогом агрессии отправляли их на лечение в психиатрию, где этот метод применялся без согласия пациента – он позволял сильно экономить на лекарствах и персонале. Правда, этот кейс на встрече не прозвучал.

Что касается собственных кейсов Neiry, то на встрече Дарья делилась несколькими:

• Совместно с МГУ – крыса с электродами, подключенными к ИИ, в результате чего в ответ на заданный вопрос, предполагающий ответ Да/Нет она бежала и нажимала нужную кнопку, получая конфету. По сути, мягкое управление поведением. Именно мягкое. потому что объевшись конфетами крыса к кнопке не бегала. С работой надо этой историей началась нынешняя работа Дарье: CEO сказал. что хочет провести эксперимент совместно с МГУ, но опасается, что компанию закроют.
• Чип с электростимуляцией мозга коровы для предотвращения стрессов, от которых падают надои молока. Жизнь коровы – не сахар, так что облегчить ее сочли вполне этичным. А обычные успокаивающие, как я понимаю, коровам нельзя – в молоке могут быть следы. Плюс стимуляция дает точечный кратковременный эффект, вмешательство меньше.
• Управление полетом голубя (биодроны), направляя их для мониторинга лесных пожаров и подобных целей. При этом голубь в отсутствии стимуляции продолжает вести обычную птичью жизнь. При обсуждении они вспоминали почтовых голубей и другие кейсы, решил, что это – этично.

И это – лишь часть кейсов, которые были в выступлении и ответах на вопросы. На этом я закончу отчет.