Правительство РФ творчески переработало законы робототехники Азимова. Робот может бездействовать в опасной для человека ситуации, но должен чтить Конституцию
Правительство РФ приняло «Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года». Концепция предусматривает, что развитие таких технологий «должно основываться на базовых этических нормах». Эти нормы перечислены в концепции. Некоторые из них очень похожи на знаменитые законы робототехники, сформулированные писателем-фантастом Айзеком Азимовым. Мы сравнили законы робототехники Азимова с этическими нормами, предложенными правительством.
Законы робототехники Азимова | Концепция правительства РФ |
|---|---|
Приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод (цель обеспечения благополучия и безопасности человека должна преобладать над иными целями разработкии применения систем искусственного интеллекта и робототехники) | |
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред | Запрет на причинение вреда по инициативе систем искусственного интеллекта и робототехники (по общему правилу следует ограничивать разработку, оборот и применение систем искусственного интеллекта и робототехники, способных по своей инициативе целенаправленно причинять вред человеку) |
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону | Подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем искусственного интеллекта и робототехники и иных обстоятельств) |
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам | |
Проектируемое соответствие закону, в том числе требованиям безопасности (применение систем искусственного интеллекта не должно заведомо для разработчика приводить к нарушению правовых норм) | |
Недопущение противоправной манипуляции поведением человека |
- Разработчики концепции взяли только половину первого закона робототехники Азимова. В России робот может спокойно наблюдать за гибелью людей: ему только запрещено целенаправленно вредить им.
- В концепции правительства совсем нет аналога третьего закона робототехники Азимова. Роботам не вменяется в обязанность забота о собственной безопасности.
- Наконец, искусственный интеллект должен действовать в рамках закона. Например, чтить обновленную Конституцию — в частности, ему нельзя будет призывать к отчуждению части территории РФ. То есть разработчикам роботов-помощников вроде Siri и «Алисы» придется проверять, как их детище отвечает на вопрос: «Чей Крым?»
Денис Дмитриев