Роботы не застрахованы от предвзятости и несправедливости

 

Будущее роботов

Социальные конструкции человека и человека управляют взаимодействием человека и робота; таким образом, робототехника переплетается с проблемами, связанными с неравенством и расовой несправедливостью.

Большинство робототехников сосредоточены на разработке интеллектуальных машин с целью позитивного воздействия на мир, то есть создания роботов на службе человечества. С этой целью робототехники должны принять концепцию, в которой наши роботизированные системы явно предназначены для работы с равномерно положительной производительностью среди множества пользователей. К сожалению, исследователи показали, что это не всегда так. Системы обнаружения объектов, используемые в автономных транспортных средствах, имеют равномерно более низкую производительность, когда дело доходит до обнаружения пешеходов с более темными тонами кожи. Исследователи также показали, что расовая предвзятость существует в коммерческих интерфейсах программирования приложений распознавания лиц или API.

Ответственность за устранение расовых предубеждений и неравенства лежит не только на обществе или руководящих органах. Робототехники также должны взять на себя ответственность за то, чтобы мы не наносили эквивалентного вреда при разработке новых технологий. И если вред, который мы создаем, негативно влияет на одну группу или группы больше, чем на другую, мы несем ответственность за это. В конце концов, робототехники довольно искусны в поиске решений сложных, казалось бы, неразрешимых проблем. Пришло время применить эти навыки, чтобы исправить это.

Мы предлагаем разработчикам рассмотреть этические последствия использования роботов, а именно этическое использование и справедливость в производительности, особенно когда использование роботов может нанести вред любой группе. Мы определяем этическое использование как процесс взвешивания потенциальных выгод против возможного риска причинения вреда всем затронутым группам; только когда этот весовой коэффициент является положительным и в достаточной степени смягчает вред, следует рассматривать развертывание технологии. Мы определяем справедливость в производительности как показатель, чтобы определить, в какой степени производительность развернутой технологии не коррелирует с защищенными характеристиками группы (раса, этническая принадлежность, возраст, пол, пол и т. Д.). Если существует отсутствие справедливости в производительности, То последствия развертывания такой технологии должны быть тщательно рассмотреныа также от опоры на технологии.

Мы считаем, что важным шагом в решении проблемы равенства в производительности, а также этичного использования является обеспечение того, чтобы более разнообразные команды были создателями этих технологий и понимали, как использовать их разнообразный опыт для успеха команды (3); очень практическое следствие этой концепции заключается в том, что разнообразный опыт позволит использовать и использовать эти технологии.последствия технологии, которые следует рассматривать с уникальных точек зрения, повышая шансы на справедливость и этику. Разнообразные команды также могут привести к лучшей производительности—этот факт был продемонстрирован снова и снова. Таким образом, чтобы начать процесс решения этой проблемы, была основана новая организация: Black in Robotics (BiR) (www.blackinrobotics.org). BiR—это организация, которая родилась для решения системных несправедливостей, обнаруженных в нашем сообществе робототехники, сосредоточив внимание на трех основных столпах-сообществе, пропаганде и подотчетности.

Сообщество

Это можно определить как чувство товарищества с теми, кто имеет схожие характеристики и цели, и было показано, что оно напрямую коррелирует с успехом в высшем образовании STEM для недопредставленных меньшинств. Как обсуждалось, хотя в США нет статистических данных, собранных специально о демографии рабочей силы робототехники, мы можем изучить статистику рабочей силы инженеров в качестве ориентировочного показателя. В 2018 году 12,7% населения США были чернокожими или афроамериканцами, но только 4,2% степеней бакалавра в области инженерии достались чернокожим ученым (8). Эта проблема отсутствия разнообразия также встречается в тесно интегрированной области искусственного интеллекта (ИИ), особенно когда речь идет о разработке алгоритмов и тестировании систем ИИ, которые влияют на различные популяции. BiR планирует построить сообщество с помощью сетей и наставничества. Мы считаем, что создание сообщества-это первый шаг к увеличению присутствия черных и других разнообразных групп в области робототехники.

Для робототехники адвокация определяется как явное действие, которое поддерживает или защищает справедливость в производительности, а также этическое использование от имени всех, с акцентом на обеспечение равных результатов в различных сообществах. Вклад BiR в достижение цели адвокации состоит в том, чтобы продемонстрировать превосходство в нашем сообществе и помочь соединить научные круги и промышленность с талантами, найденными в различных сообществах. Одним из таких видов деятельности является список чтения Black in Robotics, цель которого-предоставить академические образцы для подражания начинающим исследователям и нормализовать стипендию.

Наш столп подотчетности заключается в разработке путей для всех робототехников, включая союзников, для участия в решении. Точно так же, как черный цвет не исключает дискриминации тех, кто идентифицирует себя как черный, на основе цвета кожи, не идентифицируя себя как черный, не следует исключать участие в демонтаже проблем, связанных с робототехникой и расой. Что касается подотчетности, BiR стремится функционировать в качестве канала для привлечения сообществ, выявления передовой практики и привлечения всех нас к ответственности за то, чтобы роботы, которые мы разрабатываем и развертываем, могли использоваться для всех групп и сообществ.

Мы надеемся, что организация BiR вдохновляет людей на увеличение разнообразия в своих пространствах. Мы считаем, что это разнообразие имеет решающее значение для нас, чтобы ответить на следующие большие вопросы для робототехники, поскольку мы больше интегрируем их в нашу повседневную жизнь. Поэтому наша миссия - это призыв к действию для всего сообщества робототехники, чтобы увеличить разнообразие и строить с вниманием для обездоленных групп.

Соучастие через молчание - это не вариант.