Від «Я, робот» до повстання машин. Як планували регулювати штучний інтелект з 1942 до 2021 року
Вчора SPEKA писала про плани Китаю стати світовим лідером у галузі штучного інтелекту до 2030 року. Міністерство науки та технологій Китаю опублікувало перший набір етичних принципів регулювання ШІ.
Мета цих принципів — забезпечити, що люди завжди домінуватимуть над ШІ, а не навпаки. Але апокаліптичні сценарії з «Термінатора» та «Матриці» турбують не лише китайських вчених та високопосадовців, а їхні принципи ШІ насправді далеко не перші.
SPEKA вирішила порівняти підходи фантастів, науковців та tech-підприємців щодо питання обов'язків, обмежень та свободи волі ШІ.
У 1942 році фантаст Айзек Азімов у своїй повісті «Хоровод» сформулював три базові закони робототехніки:
- Робот не може нашкодити людині або своєю бездіяльністю дозволити, щоб людині завдали болю.
- Робот має підкорятися наказам людини, окрім тих, які суперечать першому закону.
- Робот повинен захищати самого себе, якщо тільки його дії не суперечать першому і другому законам.
Протягом десятиліть три закони Азімова лишалися чи не основою дискусії про майбутнє та етичні настанови розроблення ШІ. Але що ближче людство підходило до створення штучного інтелекту, то нагальнішою ставала дискусія.
У 2017 році на Асиломарській конференції у Каліфорнії понад 150 вчених та спеціалістів сформулювали 23 принципи роботи з ШІ. Ці принципи підтримали Стівен Хокінг та Ілон Маск.
Повний список можна дослідити тут, а ми зупинимося на етичній частині:
- Безпека.
- Відкритість: можливість з'ясувати причину збою.
- Відкритість системи правосуддя.
- Відповідальність.
- Синхронізація цінностей ШІ та людини.
- Людські цінності як пріоритет.
- Захист особистих даних.
- Свобода і конфіденційність.
- Спільна вигода.
- Спільне процвітання.
- Контроль ШІ людиною.
- Стійкість систем.
- Недопустимість гонитви озброєнь у галузі ШІ.
У 2018 році до дискусії долучився ЄС: Європейська комісія опублікувала свої принципи роботи з ШІ.
Їхні вимоги до ШІ та його розробників виглядають таким чином:
- Людська діяльність та нагляд.
- Технічна просунутість і безпека.
- Конфіденційність та управління даними.
- Прозорість.
- Різноманітність, недискримінація та справедливість.
- Суспільне та екологічне благополуччя.
- Підзвітність.