Технический форум > Робототехника
Этика отношения к роботам
Новичёк:
Обыкновенный расизм: отвыкайте от жестокости к роботам
В потоке новостей из мира робототехники — пёстром, ярком, часто скандальном, с каждым днём всё более мощном — за последние месяцы нарисовалась одна пугающая тенденция. Популярная пресса её подметила, но пока отказывается принимать всерьёз, отшучиваясь насчёт будущего, где машины «отомстят человеку за всё хорошее». На самом деле тренд куда глубже и интересней, а связан он с жестокостью по отношению к роботам.
Начинать рассказ здесь всё равно с какого примера, но лично меня впечатляет то, что делают ребята из Boston Dynamics. Ну, вы знаете эту контору, недавно купленную Google, конструирующую восхитительные многолапые стальные машины, способные пробираться по реальной местности. Последняя их разработка — Spot — напоминает габаритами и повадками крупного пса. Но многих зацепил не внешний вид, к которому все уже попривыкли, и не цепкая манера держать равновесие, а то, как создатели демонстрируют это.
Вот Spot шагает по коридору — и вдруг сбоку появляется человек и что есть силы пинает машину под дых. Удар явно сильный, но робопёс держит его и двигается дальше — только чтобы получить новый пинок.
Тупая железка!
Справедливости ради стоит отметить, что подчёркнутая жестокость этой демонстрации, в общем-то, обоснована. Spot, как и его старшие механические собратья, предназначается не для помощи старикам на дому и не для показа фокусов в комфортабельном офисе, даже не для работы на сборочном конвейере. Среда обитания роботов Boston Dynamics — зоны боевых действий, стихийных бедствий, техногенных катастроф.
Они будут подносить солдатам боеприпасы, искать и выносить раненых, изучать местность, прокладывать маршруты. Такой машине необходимо быть крепкой. Что ей пинок, когда она рискует получить пулю, попасть под падающее дерево, обвалившуюся кладку? Короче говоря, в расчётных условиях она должна выдерживать столкновение с объектами, имеющими кинетическую энергию куда большую, нежели нога человека.
Но почему же тогда создатели Spot предпочли именно ногу? Ведь они могли бы симулировать неблагоприятные воздействия на специальном стенде, но выбрали удар, наносимый человеком, исподтишка. Проще? Вероятно. Зрелищней? Тоже может быть. Так в чём же проблема? А проблема в том, что зритель (мы с вами, и ещё миллионы человек, который увидят ролик на «Ютубе») оценивает ситуацию не с точки зрения физика — два движущихся тела, векторы, энергии, результат — а с точки зрения живого существа. Ребята из BD обращаются со Spot жестоко. И они не одни такие. Их поведение укладывается в сформировавшийся тренд: мы привыкаем к жестокому обращению с машинами.
Ещё любители попинать роботов. Лаборатория динамической робототехники при Орегонском госуниверситете.
Оглянитесь, и вы найдёте тому множество подтверждений. А самое сильное, на мой взгляд, спрятано в возвращении моды на битвы роботов. «Старики» должны помнить: в конце девяностых — начале нулевых публика сходила с ума по этому виду «спорта». В телешоу вроде BattleBots (США), Robot Wars (Великобритания), Robotica и прочих, электромеханические чудовища крушили друг дружку молотками, резали циркулярными пилами, кидали, жгли, рвали на части под восторженные вопли аудитории.
То были не совсем роботы, правильней — радиоуправляемые боты, подчинявшиеся спрятавшимися за ареной создателями. Но это, в общем, деталь. Важнее, что мода на «кровавые» робопоединки схлынула вместе с бумом дот-комов, но не была забыта. Электроника стала сложней, тактовые частоты выше — и к началу второго десятилетия XXI века интерес к схваткам роботов вернулся. Смотрели «Живую сталь» с Хью Джекманом? Примерно то же самое, пусть в меньшем масштабе, уже творится на RoboGames. И в полную силу будет вытворяться снова на BattleBots, которое спустя полтора десятилетия, нынче летом, возвращается на американское ТВ.
Так что же плохого в отношении к роботам как к бытовой технике, машине, бездушной железке? На первый взгляд ничего. И СМИ этим и ограничиваются — отпуская шуточки типа: да, в будущем, когда машины обретут разум, им, конечно, будет неприятно смотреть, как их собратья мочат друг друга на потеху Homo sapiens, и как человек бьёт их, явно демонстрируя, что машина ему не ровня — и они, конечно, загорятся жаждой мести, но до этого ведь ещё так далеко! Однако у жестокости по отношению к машинам есть и вполне жизненное, уже актуальное следствие, которое особенно западная публика (впрочем, ничего удивительного, для её-то истории!) предпочитает пока не замечать.
Храбрый маленький тостер (RoboGames, 2009).
Знаете, как родился расизм? О, нет, расизм и рабство появились отнюдь не одновременно. Рабство — сверстник человека разумного, а вот словечко «расизм» придумали только в начале XX века. Благодарить за него следует португальцев — которые, пытаясь добраться до Индии, открыли в XV столетии южную половину африканского континента, а с ней и негров. «Промышленных масштабов» импорт коренных жителей Чёрной Африки в Старый Свет, а потом и в Новый, вскормил не одно экономическое чудо: кое-кто считает, что даже за промышленную революцию в Европе нам следует благодарить трансатлантическую работорговлю. Но вместе с тем и подарил цивилизованному человечеству концепцию расизма.
Негры ведь не сразу воспринимались «белым человеком» как низшая раса. Экономическая необходимость в рабском труде заставила европейцев обосновать своё, якобы, фундаментальное превосходство. В XV веке — какое удачное совпадение, правда? — формулируется идея происхождения негроидов от ветхозаветного Хама, проклятого отцом. А вслед за ним и другие религиозные, философские, научные, языковые, культурные стержни расистской теории. Четыре века эксплуатации негров так исковеркали цивилизацию в нравственном отношении, что от последствий мы все страдаем по сей день.
С роботами просматривается абсолютно та же картина. Мы сегодня словно португальские навигаторы, открывающие Чёрную Африку и столкнувшиеся с дешёвой рабсилой. Роботы за последние пятнадцать лет стали намного способней: кроме биоподобных творений Boston Dynamics есть ещё Baxter, KUKA, многие другие. Ещё чуть-чуть и они займут место человека там, где интеллект не требуется, достаточно ловкости рук: сборочные цеха, сельское хозяйство, общепит, сфера услуг. А в отдалённой перспективе нам сосуществовать с ними — сомневается ли в этом сегодня кто-нибудь? И чтобы это сосуществование было комфортным, стоит уже сейчас задуматься о правильном к ним отношении.
Заставить их работать на нас и вместо нас не страшно, на то они и придуманы. Но сформировать идею превосходства человека над машинами, приучить относиться к ним как к металлолому, поощрять жестокость — значит повторить старую ошибку. Человек снова заболеет идеей своей уникальности, неповторимости, первородного права — и тем самым навредит себе самому больше, чем машинам. Чтобы выжечь эту идею из мозгов потом потребуются века. Расистская теория живое тому подтверждение.
Отдельный вопрос: как это предотвратить? Очевидно, прежде всего уподобив роботов живым существам. Машина, ведущая себя подобно животному, включает в нас механизм сопереживания — подарок эволюции, отличающий человека от братьев меньших. Смотрели «Робота по имени Чаппи»? Когда он молил о пощаде, словно ребёнок, клянусь, мой зал задержал дыхание.
Проблема, однако, в том, что требование биоподобия конфликтует с другим, речь о котором шла в этой колонке с год назад (см. «О человеческом отношении к роботам»). Вкратце: с точки зрения эффективности, робота следует делать максимально непохожим на живое существо — в противном случае человек склонен подставиться сам, нежели рискнуть электронным «другом». Парадокс в своём роде. Тоже есть над чем подумать.
ocelot145:
Веселая новость)
Новичёк:
ЕС предложили наделить роботов статусом «электронных лиц»
Фото: Reuters/Pixstream
Европейские парламентарии предложили присвоить роботам статус «электронных лиц», наделить их правами и обязанностями, а их владельцев обязать уплачивать за них страховые взносы
Комитет Европейского парламента по правовым вопросам предложил Еврокомиссии присвоить наиболее продвинутым автономным роботам статус «электронных лиц», наделить их правами и обязанностями, а также обязать их владельцев уплачивать за них страховые взносы. Проект доклада с этими предложениями, датированный 31 мая, опубликован на сайте Европарламента.
В проекте доклада также предлагается создать реестр интеллектуальных автономных роботов, за каждым из которых будут закреплены средства на покрытие его правовых обязательств. Кроме того, документ предлагает обязать организации отчитываться о средствах, сэкономленных в результате использования роботов вместо человеческого труда.
Инициативы, по замыслу ее авторов, призваны учесть реалии новой индустриальной революции. Согласно авторам проекта, повышение логических функций роботов, а также их автономности требует пересмотра целого спектра относящихся к ним сфер — от налогообложения до правовой ответственности.
Роботы все более активно используются не только в промышленном производстве, но и в таких сферах, как персональный уход и хирургия, а некоторые производители намеренно придают роботам облик человека, пишет Reuters. На этом фоне множатся опасения, что они будут вытеснять людей из все большего числа рабочих областей, усилят неравенство в доходах и материальном благосостоянии граждан, а также повысят уровень эмоциональной отчужденности людей вследствие снижения необходимости контактировать с себе подобными.
Тем не менее Ассоциация немецких машиностроителей (VDMA), представляющая такие компании, как Siemens, а также производителя робототехники Kuka, сочли представленную инициативу преждевременной и чересчур усложненной.
«Правовые предпосылки для присвоения роботам статуса «электронных лиц» могут появиться через 50, но никак не в ближайшие 10 лет. Мы считаем, что это предложение забюрократизирует и задержит развитие робототехники», — отметил Патрик Швартцкопф, управляющий директор VDMA. При этом Швартцкопф признал, что необходимость в нормативно-правовой базе для регулирования использования автономных автомобилей возникнет уже в самое ближайшее время.
По его словам, прямая связь между более активным использованием роботов и безработицей отсутствует: число рабочих в немецком автопроме выросло на 13% с 2010 по 2015 год, а парк задействованных в секторе промышленных роботов — на 17%.
Проект доклада ждет активное обсуждение в Европарламенте, отмечает Reuters, Даже если депутаты его утвердят, документ получит статус, не имеющей обязывающего характера резолюции, поскольку высший законодательный орган блока не может вносить свои собственные законопроекты.
Источник: РБК
Новичёк:
Google сформулировала свои «законы робототехники»
Наверняка вы слышали о трех законах робототехники фантаста Азимова. Настало время, когда мы нуждаемся в этих законах, но для современного искусственного интеллекта правила Азимова не подходят. Ученые из Google, OpenAI, Стэнфорда и Беркли опубликовали документ, в котором целых пять законов для искусственного интеллекта. Они будут работать в реальной жизни.
Крис Олах из Google Research на странице блога, посвященной этому событию, рассказал, что искусственный интеллект призван помочь людям и работать во благо человечества, но все же следует исключить некоторые риски. Для того чтобы избежать потенциальных проблем, были разработаны следующие законы:
- Избегание негативных побочных эффектов — это дает гарантию того, что искусственный интеллект не будет менять что-либо в худшую сторону, преследуя свои цели. Например, робот-уборщик не станет бить вазы потому, что это может ускорить процесс уборки.
- Избегание жульничества — тот же робот должен убирать мусор, а не прятать его, создавая видимость выполненной работы.
- Масштабируемость надзора — искусственный интеллект должен максимально эффективно использовать полученную информацию о его работе от человека, не надоедая человеку слишком частыми вопросами и просьбами уточнить что-либо.
- Безопасное обучение — очевидно, что робот должен экспериментировать и совершенствоваться, однако эти эксперименты не должны приводить к негативным последствиям. К примеру, робот-уборщик не должен пытаться протереть розетки влажной тряпкой, даже если это может оказаться эффективным.
- Устойчивость к изменению вида деятельности — робот-уборщик, ответственный за порядок на фабрике, не должен опираться на свой опыт, занимаясь уборкой в офисе.
digitalman:
Законы робототехники придуманные Азеком (Исаком) Азимовым, переведенные на разные языки и интерпретации и переосмысленные разными народами не могут быть в полной мере поняты роботами даже с достаточно высоким Искусственным Интеллектом. Ведь сегодня Роботов-андроидов способных мыслить на человеческом уровне практически не существует. Тем не менее потенциально подобные роботы андроиды вполне вероятны. Их модуль ИИ вероятно будет на несколько порядков проще человеческого мозга (ну условно на уровне мышления шимпанзе или ещё хуже), однако поскольку мозг этот не биологический а искусствено сформированная небольшая нейросеть, из достаточно простых кремниевых элементов, то можно сделать гибридный Искусственный Интеллект для управления телом и его членами, ногами и руками.
За основу каркаса робота можно взять упрощенный человеческий скелет (ну как у терминатора).
Я немного пофантазирую здесь.
Итак:
Внутренний скелет робота-андроида должен создаваться из стандартизированных элементов.
Детали условно называемые "костями", должны быть стандартных размеров, и их не должно быть слишком много. Все они могут готовится на конвеере машинного производства.
Материал костей, предпочтительно Титан, ну или хотя бы дюральюминий. Можно делать их из труб разного диаметра.
Сочленения, суставы должны немного напоминать человеческие, но, естественно очень упрощенные и адаптированные для машинного производства.
Далее, скелет должен быть обтянут искуственными мышцами, количество их групп и основные типы должны приблизительно напоминать человеческую анатомию. Мышцы сокращаются от мощного электрического тока, и закрыты прорезиненным пластиком.
Сверху кожа, что-то среднее между резиной и капроновой тканью. Цвет кожи на любителя, но полноценная имитация человеческой кожи вряд ли возможна при массовом производстве.
Блок управления (компьютер) роботом андроидом традиционно должен находится внутри черепа. По умолчанию компьютер робота-андроида контролируется со специального сервера по радиоканалу, но Робот-Андроид может переключаться и в автономный режим, по системному сигналу, или же в случае непредвиденных обстоятельств.
Чувства робота-андроида: Машинное зрение(две видеокамеры-глаза), Уши (чувствительные микрофоны), Датчики температуры/давления/вибрации (не менее десятка по всему телу).
Кисти рук с хорошей чувствительностью, достаточно сильные и рассчитанные на относительно быстрые движения.
Что находится внутри туловища? Как минимум там должен быть мощный энергоблок: Аккумулятор и топливные элементы. Затем гироскопический датчик импульса движения и аппаратно-программный блок сохранения равновесия. Кроме того, дополнительный резервный компьютер. Ну и достаточно серьезная защита всего этого хозяйства от ударов, агрессивных химических сред, температурных перепадов. (Грубо говоря нужен ещё и внутренний автоматический кондиционер, сохраняющий относительно стабильную среднюю температуру Андроида).
Голова: Вот это самое сложное. Ведь там находятся электронные мозги!
Итак, что же там?
Снаружи лицо напоминающее человеческое, но упрощенное унифицированное, и по возможности вне пределов "зловещей долины". Люди не должны испытывать шок при виде подобного андроида, а должны относится к нему либо снисходительно либо как равному себе.
Череп, робота антропоморфный но достаточно простой, стандартизированный как корпуса для тех же компьютеров.
Кроме того внутри черепа имеется встроенный относительно слабый компьютер наподобие Малины (Raspberry), его функции подключение к интернет, и загрузка/выгрузка необходимых данных для работы систем Робота-Андроида.
Электронный мозг робота ограничен небольшим объемом, но достаточно эффективен для решения задач передвижения в пространстве, и заданной определенной работы. Каждому роботу загружается определенная программа, которая определяет его поведение, характер и непосредственно рабочие обязанности. Например, робот-строитель будет использовать все свои ресурсы в основном на выполнение строительного проекта, робот-курьер будет заниматься доставкой корреспонденции итд. В общем каждому роботу-андроиду можно внедрить в мозг программу из стандартной библиотеки.
В общем тут много чего можно насочинять. Писатели-фантасты постоянно этим занимаются, но мне как технарю-электронщику хотелось бы гораздо приземленнее этим заняться. Но мои возможности как Гомо-Сапиенса тоже очень ограничены хотя и гораздо выше описанной выше конструкции.
Ну как-то так.
Возможно ли массовое производство при современных технологиях? Вполне.
Навигация
Перейти к полной версии