ECAI - Этика и ИИ

23.09.2019 - 28.09.2019 МКПУ-2019, с. Дивноморское https://niimvus.org.ru/index.php/konferentsii/14-mkpu-2019

02.10.2019 - 04.10.2019 II научная конференция «Ориентация и навигация животных», Москва, ИПЭЭ http://sev-in.ru/ru/orientacia-i-navigacia-zivotnyh

16.10.2019 - 18.10.2019 Первая Международная научно-практическая конференция «Робототехника, искусственный интеллект, общество: новые вызовы», Пермь http://robotics.pstu.ru/

21.10.2019 - 25.10.2019 КИИ-2019, Ульяновск http://2019.rncai.ru/ru/

21.11.2019 - 23.11.2019 XI Международная научная конференция «Теоретическая и прикладная этика: традиции и перспективы – 2019» - «К грядущему цифровому обществу. Опыт этического прогнозирования» (100 лет со дня рождения Д.Белла - 1919-2019), Санкт-Петербург, Институт философии СПбГУ http://philosophy.spbu.ru/2652/15794

Автономные (интеллектуальные) системы и нормы международного права

27 января 2019 в Москве в рамках 62-го ежегодного собрания Российской Ассоциации международного права прошел круглый стол «Международное право в условиях техногенной цивилизации», модерируемый президентом РАМП д.ю.н., профессором А.Я. Капустиным и к.ю.н. И.А. Шулятьевым.

Круглый стол был открыт докладом члена Российской Ассоциации международного права и члена Российской рабочей группы по этике ИИ, к.ю.н. Огородова Дмитрия Владимировича.

Доклад «Противоречат ли автономные (интеллектуальные) технические системы военного назначения нормам международного права?» был посвящен критическому анализу существующих зарубежных инициатив по запрету означенных систем, включая неприемлемость для целей правового регулирования словесной кальки англоязычного термина («смертоносные автономные системы»).

огородов_-_аис_военного_назначения_и_нормы_мп.pdf

Доклад вызвал значительный интерес среди участников круглого стола, а также бурные возражения со стороны поддерживающего зарубежные инициативы по запрету АИС военного назначения к.ю.н. Б.Р. Тузмухамедова, который в 2012-2015 гг. занимал должности судьи Апелляционной палаты Международных уголовных трибуналов ООН по Руанде и по бывшей Югославии.

Позиция Б.Р. Тузмухамедова мотивировалась:

• предложением уравнять советский и австралийский вклады (по числу жертв) в победу во Второй Мировой войне;
• предложением игнорировать географические, демографические, экономически и прочие военно-стратегические факторы, определяющие обороноспособность Российской Федерации;
• ссылкой на положения Конвенции ООН по морскому праву 1982 г., которая считает военным кораблем судно, которое имеет экипаж, подчиненный регулярной военной дисциплине.

По мнению докладчика Д.В. Огородова, первые из этих доводов несостоятельны по моральным и политическим соображениям.

Что же касается упомянутой Конвенции ООН 1982 года, то сама по себе она не запрещает ее государствам-участникам создание и применение вооруженными силами морских АИС военного назначения:

• во-первых, прямо Конвенция ООН не запрещает существование внешних экипажей (операторов) для дистанционно-пилотируемых военных кораблей. Отсутствие подчиненного регулярной военной дисциплине экипажа на борту данного судна не означает отсутствия экипажа вовсе. Телеуправление боевыми машинами (танками, самолетами, кораблями) на расстоянии внешним экипажем (пилотом) машины известно военному делу уже более 100 лет;
• во-вторых, правовым последствием несоответствия военного корабля положениям данной Конвенции - если станет общепризнаным ее ограничительное толкование - станет лишь отстутствие военных иммунитетов и привилегий для соответствующего судна, а не не международная противоправность (преступность) АИС военного назначения;
• в-третьих, с практической точки зрения важно учесть, что наиболее мощная военно-морская держава - США - не участвуют в Конвенции ООН по морскому праву.

Круглый стол «Музыка в эпоху нейросетей»

25 января 2020 - в специализирующемся на медийном искусстве “Электромузее в Ростокино” объединения “Выставочные залы Москвы” прошел круглый стол «Музыка в эпоху нейросетей»

http://electromuseum.ru/event/muzyka-v-epohu-nejrosetej/

Спикеры:

• Павел Згордан — артист, саунд-продюсер, музыкальный директор Mubert, стриминг-сервиса генеративной музыки
• Елена Никоноле — художница и преподавательница, работающая в области Art&Science
• Катарина Мелик-Овсепян — клавесинистка и пианистка. Специализируется на исторически информированном исполнительстве, сотрудничает с несколькими барочными ансамблями, фокусируя своё внимание как на идеях популяризаторства, так и на серьезных исследованиях. Как исполнительница экспериментирует с акустическими возможностями исторических инструментов и рефлексирует на тему их интеграции в современную экспериментальную музыку
• Никита Прудников — IT эксперт, музыкант и энтузиаст в сфере цифровой обработки сигналов. Основная область его работы — исследование новых возможностей синергии computer science и саунд арта. Автор фреймворка генеративной музыки и синтеза F L A K Y, использованного в экспериментальной игре в рамках школы Деколонизация воображения, а также live-coding выступлениях на фестивалях Gamma, Подготовленные Среды, выставках Hot News, B.Y.O.B.
• Наталья Соболева — научный сотрудник лаборатории федерального исследовательского центра «Информатика и управление» РАН и лаборатории анализа данных Skoltech. Участница различных проектов, связанных с искусственным интеллектом и машинным обучением, в частности использования генеративных нейронных сетей в автоматическом планировании, компьютерном зрении и генерации звука.

От Российской рабочей группы по этике искусственного интеллекта в дискуссии принял участие Дмитрий Владимирович Огородов, который поделился с участниками своим взглядом на проблемы правовой охраны результатов музыкального «машинного творчества» и пути их решения.

Круглый стол «Нейронные сети в науке, искусстве, обществе»

22 января 2020 - в специализирующемся на медийном искусстве “Электромузее в Ростокино” объединения “Выставочные залы Москвы” прошел круглый стол «Нейронные сети в науке, искусстве, обществе»

http://electromuseum.ru/event/nejronnye-seti-v-nauke-iskusstve-obshhestve/

Спикеры:

• Дмитрий Булатов — художник, теоретик искусства, куратор. Организатор выставочных и издательских проектов в области Art&Science и новых медиа
• Владлена Громова — художница, соосновательница лаборатории интерактивного искусства и дизайна VALab - www.valab.info, аспирантка Европейского университета в Санкт-Петербурге, преподавательница курса Art&Science в университете ИТМО, Санкт-Петербург
• Елена Никоноле — художница и преподавательница, работающая в области Art&Science
• Алексей Шульгин — художник, куратор и преподаватель, работающий в области новых медиа. Пионер Российского медиаарта и международного интернет-арта

В дискуссии принял участие член Российской рабочей группы по этике искусственного интеллекта, к.ю.н. Дмитрий Владимирович Огородов, который изложил основные юридические проблемы технологий искусственного интеллекта (юридическая квалификация искусственных нейронных сетей; вопросы ответственности за вред и пагубность идеи правосубъектности любого рода техники).

Фотоотчет о мероприятии: https://m.facebook.com/story.php?story_fbid=10157847198922230&id=660122229

«Машинное творчество» в музыке — семинар Московской консерватории

17 декабря 2019 в Московской государственной консерватории им. П.И.Чайковского в рамках 4-ой международной научно-творческой конференции «Музыка–математика–естествознание» состоялся исследовательский семинар по вопросам музыкального «машинного творчества», организованный Центром междисциплинарных исследований музыкального творчества (ЦМИМТ) МГК им. П.И.Чайковского при участии Российской рабочей группы по этике искусственного интеллекта.

http://www.mosconsv.ru/ru/event_p.aspx?id=162579

В семинаре приняли участие:

• российские композиторы, работающие с технологиями искусственного интеллекта;
• искусствоведы и преподаватели Московской консерватории;
• ученые-юристы и практики юриспруденции, представители ведущих юридических фирм в области интеллектуальных прав;
• представители российских IT-компаний, справочных правовых систем, а также бюро лицензирования интеллектуальных прав.

Работу семинара открыл Владимир Александрович Корнеев - к.ю.н., заместитель председателя Суда по интеллектуальным правам Российской Федерации.

В рамках семинара были заслушаны и обсуждены следующие доклады:

1) Практика применения современных вычислительных систем в композиторском творчестве – Сошинский Иван Сергеевич, композитор, биофизик, научный сотрудник ЦМИМТ МГК им.П.И.Чайковского;

иван_сошинский_-_доклад_в_мгк_17-12-2019.pdf

2) Общие вопросы «машинного творчества» – Карпов Валерий Эдуардович, к.т.н., вице-президент Российской ассоциации искусственного интеллекта, член Российской рабочей группы по этике искусственного интеллекта.

карпов_творчество_и_искусств_интеллект_2018-04-06_.pdf

3) Искусственный интеллект и музыкальное «машинное творчество»: вопросы авторских и смежных прав – Огородов Дмитрий Владимирович, к.ю.н., член Российской ассоциации искусственного интеллекта, член Российской рабочей группы по этике искусственного интеллекта

ogorodov_-_moscons_17-12-2019_.pdf

Музыкальный директор компании Mubert Inc. Павел Згордан поделился практикой применения технологий ИИ в коммерческом приложениии Mubert и взглядом бизнеса на правовые проблемы музыкального «машинного творчества».

В развернувшейся дискусии принял активное участие Максим Валерьевич Федоров, д.х.н., профессор Сколтеха, директор Центра Сколтеха по научным и инженерным вычислительным технологиям для задач с большими массивами данных (CDISE).

О Центре междисциплинарных исследований музыкального творчества (ЦМИМТ) Московской государственной консерватории им. П.И.Чайковского: http://www.mosconsv.ru/ru/groups.aspx?id=135683

29 октября 2019 г. в Институте философии РАН (Москва) состоялось очередное заседание ежемесячного исследовательского семинара «Этические проблемы искусственного интеллекта».

Интеллектуальные автономные системы – этические аспекты применения.
Докладчик – П.М. Готовцев (НИЦ «Курчатовский институт»).

Аннотация. gotovtsev.pdf

gotovtsev_ai_ethics_29_10_2019.pdf Презентация семинара, формат pdf

1 октября 2019 г. в Институте философии РАН (Москва) состоялось первое заседание ежемесячного исследовательского семинара «Этические проблемы искусственного интеллекта».

Исследовательский семинар организован сектором этики Института философии РАН совместно с Российской ассоциацией искусственного интеллекта (РАИИ) и кафедрой этики философского факультета МГУ им. М.В. Ломоносова под эгидой Научного совета РАН по методологии искусственного интеллекта и когнитивных исследований (НСМИИ РАН).

Задача семинара – обсуждение теоретических условий междисциплинарного синтеза этики и технологии ИИ, проблем формализации этических принципов в приложении к ИИ, этических аспектов применения интеллектуальных и автономных систем и др.

Руководители семинара:

• Апресян Рубен Грантович, доктор философских наук, профессор, руководитель сектора этики ИФРАН
• Карпов Валерий Эдуардович, к.т.н., доцент, начальник Лаборатории робототехники НИЦ «Курчатовский институт», вице-президент РАИИ
• Разин Александр Владимирович, доктор философских наук, профессор, заведующий Кафедрой этики философского факультета МГУ им. М.В. Ломоносова

Ученый секретарь:

• Платонова Мария Валерьевна, хранитель Политехнического музея

Первое заседание семинара было посвящено теме «Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта».

С докладами выступили:

• Р.Г. Апресян (Институт философии РАН)
• В.Э. Карпов (НИЦ «Курчатовский институт», МФТИ)

Развернувшаяся дискуссия завершила успешную работу первого заседания.

Материалы семинара:

Апресян, Карпов - Тезисы семинара 01-10-2019

Видеозапись семинара «Теоретические и методологические предпосылки обсуждения проблем этики искусственного интеллекта»

karpov-2019-10-01.pdf Презентация семинара, формат pdf

karpov-2019-10-01.pptx Презентация семинара, формат pptx

В 24 мая 2019 в Санкт-Петербургском институте информатики и автоматизации Российской академии наук (СПИИРАН) состоялся круглый стол «РЭП: роботы, этика, право».

Круглый стол прошел в рамках V Всероссийского научно-практического семинара «Беспилотные транспортные средства с элементами искусственного интеллекта», организованного РААИ и СПИИРАН.

Подробнее о мероприятии можно ознакомиться на сайте семинара http://ai-uv.ru

В работе круглого стола «РЭП: роботы, этика, право» приняли участие члены рабочей группы по этике искусственного интеллекта ECAI, представившие следующие доклады:

Карпов В.Э. От подражательного поведения к эмпатии в социуме роботов / В.Э. Карпов / / V Всероссийский научно-практический семинар «Беспилотные транспортные средства с элементами искусственного интеллекта» (БТС-ИИ-2019), 22-24 мая 2019. – СПб., 2019. – С. 238-247. karpov_bts_ii_2019.pdf

Готовцев П.М. Интеллектуальные и автономные системы – этические аспекты применения / П.М. Готовцев / / V Всероссийский научно-практический семинар «Беспилотные транспортные средства с элементами искусственного интеллекта» (БТС-ИИ-2019), 22-24 мая 2019. – СПб., 2019. – С. 231-237. gotovtsev_bts_ii_2019.pdf

Д.В. Огородов «Беспилотные транспортные средства с элементами искусственного интеллекта: право и этика» огородов_-_право_и_этика_бтс-ии_2019-05-24_.pdf

Завершая работу круглого стола, выступил Г.В.Ройзензон с классификацией проектов стандартов IEEE по этике ИИ в зависимости от степени урегулированности действующим законодательства РФ.

При этом Г.В. Ройзензон предложил сконцентрироваться на проектах стандартов IEEE по тем вопросам, которые вовсе не урегулированы законодательством РФ, либо их российское регулирование страдает пробелами.

17 апреля 2019 член Российской рабочей группы по этике ИИ к.ю.н. Д.В.Огородов выступил в МГИМО на совместном экспертном круглом столе «Права человека и биомедицина», прошедшем с участием секретаря Комитета по биоэтике Совета Европы г-жи Лоранс Львофф при поддержке ЕУИ МГИМО МИД России и Генерального Директората по вопросам прав человека и верховенства права Совета Европы.

В работе круглого стола участвовали представители МИДа России, международного дискуссионного клуба «Валдай», преподаватели международно-правового факультета МГИМО и других юридических вузов РФ, а также аспиранты и студенты.

В докладе Д.В.Огородов обозначил прикладное значение и специфику формирующейся области прикладной этики - этики искусственного интеллекта. Представил Российскую рабочую группу по этике ИИ, проекты IEEE, исследование Moral Machine и другие инициативы в этом направлении. Показал взаимосвязь ранее известных этико-правовых проблем биомедицинских технологий и новой проблемы этики искусственного интеллекта. Также были предложены на обсуждение юридические механизмы разрешения этико-правовых проблем интеллектуальных и автономных систем биомедицинского назначения.

Сообщение члена рабочей группы ECAI RAAI к.ю.н. Д.В.Огородова вызвало живой интерес и дискуссию среди участников круглого стола.

Презентация Д.В. Огородова биоэтика_и_этика_ии_мгимо-2019_.pdf

«Правовая защита интеллектуальной собственности: проблемы теории и практики» https://msal.ru/content/nauka/drugie-nauchnye-meropriyatiya/v-mezhdunarodnyy-ip-forum/?hash=tab3072

Место проведения: Университет имени О.Е. Кутафина (МГЮА), г. Москва, ул. Садовая-Кудринская, д. 9 21-22 февраля 2018 г.

21 февраля (среда) 13.00-14.30

Круглый стол «Проблемы этической и правовой регламентации систем искусственного интеллекта (робототехники)» (зал 1)

В 2017 году Российская ассоциация искусственного интеллекта проводит Восьмые Поспеловские чтения «Искусственный интеллект – проблемы и перспективы»

Цель Чтений – ознакомление широкого круга специалистов по искусственному интеллекту и всех интересующихся данной проблематикой с последними результатами работ в области искусственного интеллекта, а также популяризация исследований в этой области.

Выступление В.Э. Карпова с докладом «О проблемах этики в искусственном интеллекте»

Программа конференции posp-2017_programma.pdf