Google назвала пять ключевых проблем безопасности роботов

Проблемы заключаются в следующих пунктах:
1. Как избежать негативных побочных эффектов: как не дать роботу опрокинуть книжный шкаф в яростном стремлении пропылесосить пол?

2. Как избежать взлома ради награды: если робот запрограммирован получать удовольствие от уборки комнаты, как не дать ему пачкать место ради того, чтобы он просто получал удовольствие от многократной его уборки?
3. Масштабируемость надзора: как много свободы в принятии решений дать роботу? Нужно ли ему спрашивать вас всякий раз, когда он двигает объекты в процессе уборки вашей комнаты или только если двигает вашу любимую вазу на прикроватной тумбе?
4. Безопасное любопытство: как научить роботам утихомиривать свое любопытство? Как научить его, что мыть шваброй пол прекрасно, но задевать розетку в процессе уборки не стоит?
5. Уважение личного пространства: как убедиться, что робот уважает пространство, в котором находится? Уборщик в вашей спальне будет действовать иначе, чем уборщик на заводе, но откуда он узнает эту разницу?

Так вот, эти исследователи говорят полную ерунду.

Главная проблема совсем в другом.

Взаимодействие между людьми предполагает существование и признание прав и социальной иерархии.

Мужчина идет по улице. Со встречным незнакомцем он расходится так: отодвигает плечо ровно на такое расстояние, которое позволит им не столкнуться, если встречный отодвинется на то же расстояние. Этим он утверждает свое право на свободный проход, признает это право и за чужаком, при этом декларирует равный социальный статус с ним.

Рядовой уступит полковнику дорогу полностью. Иерархия. Женщине или очень маленькому ребенку мужчина уступит полностью. Социальный статус защитника обязывает к этому. Но достаточно большой мальчик должен будет уступить сам.

Эти вопросы понятны всякому человеку интуитивно.

А если навстречу попадается бродячая болонка? У нее просто нет места в социальной иерархии. У нее нет никаких прав. Права есть исключительно у людей. Поэтому болонка должна убраться с вашего пути. Получит ли она от вас пинка, если недостаточно быстро уберется с вашей дороги, зависит лишь от вашей личной любви к животным, но никак не от ее прав, которых нет.

Да, ротвейлера вы, возможно, не станете сгонять со своего пути. Но обязательно попытаетесь, например, грозным взглядом или голосом. И останетесь недовольны, если он не подчинится. Тут дело лишь в вашей личной оценке вашей же личной силы. Если вы посчитаете, что на вашей стороне есть значительное преимущество, то вы обязательно рискнете вступить в конфликт по этому незначительному вопросу. Вы будете готовы драться и проливать кровь, чтобы не делать полшажка в сторону. Чтобы подтвердить свой социальный статус. В собственных глазах, конечно, не в глазах же какой-то там собаки.

С дубинкой в руках вы пойдете на ротвейлера скорее и увереннее. Но на стаю больших лохматых псов с дубинкой вы все же не пойдете. Зато поедете сквозь эту стаю на джипе. Только ваша сила играет роль. В любом случае никаких мыслей о правах собак у вас не возникнет.

А уступали вы когда-нибудь дорогу или место голубю? И в мыслях ведь не было? Голубь — не собака, вопроса силы тут нет вообще.
А какое место в социальной иерархии у робота? Какие у него есть права? Готовы ли вы уступать роботу?

Место робота еще ниже. За голубем и собакой мы хотя бы признаем наличие их свободной воли и каких-то интересов. Да, мы не ценим их, нам наплевать на них. Мы лишь можем игнорировать их действия, пока они не преграждают нам дорогу. Но у робота нет даже этого.



Вам навстречу идет человекоподобный робот. Станете уступать ему дорогу? Не станете ведь. Пустую картонную коробку вы бы пинком отправили в сторону. Но между коробкой и роботом есть разница в вашем восприятии. И она не в пользу робота.

Мы склонны одушевлять предметы. «Чертов [какой-то бытовой электроприбор] делает это/не делает это и дико меня бесит!» Это одушевление. А одушевление влечет эмоциональную реакцию, которая всё усиливает.

Коробку вы не станете одушевлять. Он не вызовет особого раздражения, пинок не доставит вам особого удовольствия. А вот робот… Эта железка куда-то там идет! Ей чего там нужно!

Роботом управляет программа. Мы готовы будем признать наличие управляющей программы как эрзаца свободной воли. И одновременно мы станем отрицать право на свободную волю у робота.

Понимаете, в чем фишка? Мы в своем сознании проведем несколько последовательных операций. Сначала мы осознаем наличие управляющей программы робота. Затем мы проведем одушевление этого неживого предмета. Потом мы его управляющую программу станем воспринимать в качестве свободной воли. И наконец, мы придем к противоречию. Это ржавая железка не имеет никакого права обладать свободой воли!

И тогда в дело вступят эмоции. Вы не уступите роботу ни миллиметра. А пинок, которым вы его наградите, если он уберется недостаточно быстро, будет от всей души.

Мало того. Мало того. Вполне вероятно, что, когда робот полностью уступит вам путь, вы повернете в его сторону, чтобы ему пришлось уворачиваться еще. И еще раз. И еще. Пусть вдоль стены крадется. И пинка всё же добавите. Или не только пинка. Еще и свалите его на землю. Видели же, как роботов Бостон Дайнемикс валят на землю? Что-то в это есть, да?

Выходит, что статус робота ниже статуса собаки и голубя. И даже ниже рваной картонной коробки.

А ведь этот несложный путь размышлений вполне себе проделает программист этого робота. Если запрограммировать его на поведение того мужчины, который лишь слегка отодвигает плечо, чтобы пропустить встречного… Если такого робота отправить за покупками в магазин, то он не пройдет и первого квартала. Его уничтожат. И не какие-то брутальные мизантропы, а самые обычные люди, которые ходят в церковь или кормят бездомных котят.

Очевидно ведь, что возможностью самозащиты робота наделять нельзя. И не только не из соображений высшего смысла, которые еще Азимов сформулировал. Самый минимальный уровень самозащиты робота вызовет просто взрыв ненависти у человека. Человек тогда не поленится взять дубину, сбегать за дробовиком или переехать ЭТО джипом. Самозащита просто бесполезна. (Кстати, этот эффект надо обязательно использовать в тактике применения боевых роботов. Пожалуй, противник в равных условиях предпочтет поразить именно робота, а не управляемую вражеским солдатом боевую машину, при их сопоставимой опасности.)

Поэтому человекоподобному роботу за покупками придется пробираться с трудом. Где-то вдоль стен, где-то по обочине. Пройти в дверь магазина будет проблематично. Он должен вести себя как запуганный дембелями дух, как самый последний раб. Желательно, чтобы он и выглядел соответственно. Низкорослый, с согнутой спиной, с глупой улыбкой на лице, постоянно извиняться. Смешной, нелепый, жалкий, хорошо, если он станет прихрамывать и поскрипывать. Лишь бы не вызывать агрессии, лишь бы никто не заподозрил, что робот претендует хоть на какое-то место в иерархии.

А теперь чуть ближе к реальности. Правила дорожного движения — это формализованный вариант этики в отношениях между людьми. Точно так же основанный на признании социальной иерархии и прав людей. Когда водитель уступает помехе справа, он уступает именно человеку — другому водителю, а не его автомобилю. Он признает право этого человека на приоритетный проезд в данном случае. Зная, что также обладает правом приоритетного проезда в другом.



И вот на дороги выезжает робот-автомобиль. И....? И что ПДД? ПДД — производное из этики. А роботы же вне этики. Вне социальной иерархии, не имеют никаких прав. На тротуаре пешеходный робот ведь самый распоследний. Чем же ситуация на дороге принципиально различается? Вы станете уступать ЭТОМУ? Уступать кофеварке? Тупому пылесосу?

Какие еще ПДД? Пешеход пойдет перед роботом на красный. Ведь робот может остановиться, он обязан уметь остановиться, даже если правила нарушает человек. Поэтому пешеход обязательно пойдет. Перед поездом не пошел бы. Тут тот же вопрос разницы между болонкой и ротвейлером. Личная безопасность играет роль, но ни у поезда, ни у робо-авто никаких таких прав все равно нет.

И из робота-автомобиля не выскочит же злой водитель. Пассажир может, если он там есть. Но есть существенная разница. Водитель маршрутки вступит в конфликт на дороге, подерется даже. А вот его пассажиры скорее всего останутся равнодушны. Даже если пассажир будет хозяином этого робо-авто. Право на управление, право на соблюдение ПДД со стороны остальных участников — эти права связаны с управлением. Нет управления действиями — права под сомнением.

Итак, часть участников движения — водителей и пешеходов, станет умышленно и постоянно нарушать ПДД в отношении роботов. Эти роботы станут другой частью, которая тоже не соблюдает дух ПДД, будучи вынужденна постоянно уступать нарушениям первой группы. И плюс путаница в различении управляемых роботом и человеком автомобилей.

Имеющаяся статистика ДТП с роботами-автомобилями вовсе не говорит о безопасности, как это пытается представить их компания-производитель. Она как раз подтверждает вот эти перспективы. 100% ДТП сегодня вызваны умышленным нарушением со стороны живого водителя в отношении робота. Водитель автобуса не стал уступать тостеру и специально подрезал его.

Да, часть водителей все же воспримет роботов в качестве равных участников движения. Возможно. Особенно если добавить везде видеокамер и ужесточить наказания… Но это не изменит того, что на дорогах будет КОЛЛАПС. Или роботы-автомобили будут нелепыми и жалкими, красться по правой полосе, уворачиваться, уступать?

Опустим вопросы возмещения ущерба и ответственности за действия робота. Они будут стоять совершенно по-иному. Пьяный водитель сбил насмерть двух девочек? — Да, мы ненавидим его. Но ему дадут небольшой тюремный срок, и мы успокоимся. Это привычно, мы постоянно убиваем друг друга. Но что произойдет, когда нас станут убивать железки? За двух девочек, убитых роботом, общество потребует распятий, сожжений на кострах и техноцида. «Из-за инцидента Тойота отзывает 50 тысяч моделей „Робоприус“ 2021 года для обновления ПО»? — Как бы не так! Всё под пресс! А завод разбомбить.

Люди не готовы взаимодействовать с роботами. «Взаимодействовать» — не равно «использовать».

Вот это и есть главная первая проблема безопасности роботов. И ее решения я не сегодня вижу.

Возможно, и не хочу видеть. А это — вторая главная проблема безопасности роботов.