Каждый прожитый день приближает нас к утопической мечте о сотрудничестве человека и робота, коллаборации и сожительстве, которую много лет назад обещали нам “Джетсоны”.
Наши автомобили учатся водить сами, наши солнечные батареи поддерживают себя в чистоте, а наши пылесосы снуют по нашим домам по ночам и не дают нашим домашним животным думать, что они здесь хозяева.
Тем не менее, в этом путешествии все еще есть сбои, а именно бесконечный парад заголовков новостей, в которых фигурируют такие слова, как робот, искусственный интеллект и, конечно же, смерть и/или серьезные травмы.
Только в прошлом году рабочий был раздавлен упаковочным роботом, который принял его за коробку с красным перцем, пешехода в Сан-Франциско сбило и протащило самоуправляемое такси, а мужчину на заводе Tesla в Техасе придавило и раздробило автоматизированной сборочной машиной.
Помимо этих ужасных и специфических случаев, кажется, что присутствие роботов просто более опасно, о чем свидетельствует недавнее исследование, показавшее, что на складах, использующих роботов, работники получают травмы на 50 процентов чаще.
Добавьте к этому тот факт, что сегодня утром мой Roomba попытался съесть занавеску для душа и вызвал цепную реакцию хаоса, в результате которой зубная щетка моего малыша упала в унитаз, и у нас возникла реальная проблема.
Чтобы разобраться в сложностях и нюансах развивающейся области интеллектуальной робототехники, эксперты должны приложить все усилия, анализируя, что идет не так, выясняя почему, и предлагая решения, которые одновременно практичны и эффективны.
К счастью для гигиены полости рта моего малыша, именно этим занимается Дэвид Фейтельсон.
Будучи руководителем школы разработки программного обеспечения Академического инженерного колледжа Афека в Тель-Авиве, Фейтельсон является авторитетом в области разработки программного обеспечения и взаимодействия человека и машины.
Обладая более чем тридцатилетним опытом работы, включая степень магистра Холонского технологического института и докторскую степень Оксфордского университета, его знания включают качество программного обеспечения, дизайн и искусственный интеллект .
Доктор Дэвид Фейтельсон из Академического инженерного колледжа Афека. Фото Габи Маймона
Размытые линии, сломанные шипы
В то время как в прошлом существовали очень четкие правила о том, как люди могут и должны безопасно взаимодействовать с роботами, Фейтельсон объясняет, что современные разработки размыли эту грань.
“В старые времена было совершенно ясно, что когда у вас есть машина — особенно большая, очень мощная — вы должны были установить какой-то барьер между машиной и людьми”, - говорит он.
“Интересная вещь, которая происходит сейчас, заключается в том, что мы пытаемся ослабить эти барьеры, чтобы позволить роботам и людям взаимодействовать гораздо теснее. Это открывает положительные возможности, но также представляет определенный уровень опасности”.
Он выделяет три основных препятствия, которые необходимо преодолеть, чтобы способствовать сосуществованию людей и роботов, и предлагает потенциальные решения для их преодоления.
1. Свести к минимуму вероятность новых сценариев
Одна из существенных проблем заключается в ограничениях существующих систем искусственного интеллекта, особенно тех, которые основаны на статистическом моделировании.
Фейтельсон объясняет, что часто ошибки, допускаемые роботами, управляемыми алгоритмами, являются результатом новых сценариев, выходящих за рамки обширных наборов данных машин.
Столкнувшись с незнакомой ситуацией, робот, скорее всего, сделает наилучшее предположение о том, как реагировать, что часто может привести к непредсказуемым и даже вредным результатам.
Однако, как бы мы ни старались, вероятность того, что мы сможем исключить все возможные новые сценарии, которые могут сбить наши машины с толку, невелика.
Чтобы решить эту проблему, Фейтельсон предлагает максимально упростить рабочую среду робота — будь то дорога, производственная линия или ванная комната с низко висящей занавеской для душа.
“Сделайте ее более контролируемой; более предсказуемой. Вам нужно перепроектировать всю систему, если вы хотите сделать ее безопасной, надежной и эффективной”, - говорит он.
2. Улучшите язык тела роботов
В настоящее время роботы в значительной степени просто делают то, что они планируют делать, в тот момент, когда они должны это сделать, на самом деле никому не сообщая об этом заранее.
Хотя это хорошо для повышения эффективности, это не так хорошо для случайных прохожих, находящихся в пределах досягаемости быстро движущихся стальных механизмов с сервоприводом.
Фейтельсон подчеркивает важность установления четких каналов связи между людьми и роботами, чтобы каждый знал о присутствии и намерениях другого.
Черпая вдохновение во взаимодействии человека и животных и невербальных сигналах в танце, он представляет будущее, в котором роботы прозрачно передают свои намерения, позволяя людям предвидеть и эффективно реагировать - тем самым избегая серьезных травм.
“Грузовики подают звуковой сигнал, когда они сдают назад: это предупреждение, которое говорит всем окружающим: "Я сейчас подам назад, так что отойдите". Это очень просто, но это именно то, что нужно роботам”, — отмечает Фейтельсон.
3. Научитесь лучше удалять плохой код
Есть что-то близкое к иронии в том, что люди программируют роботов, которые предназначены для того, чтобы помешать людям совершать ошибки в программировании.
Тем не менее, нам определенно нужен способ устранить эти ошибки кодирования с самого начала, прежде чем они смогут распространиться по роботизированным системам и привести к непредвиденным сбоям и потенциально опасным последствиям.
Чтобы решить эту проблему, Фейтельсон предлагает перейти к математически обоснованным методам верификации, которые могут свести к минимуму ошибки программирования и повысить надежность и безопасность роботизированных систем.
“Нам нужны математические методы, которые могут подтвердить корректность программного обеспечения, а не полагаться только на тестирование”, - говорит он. “Если вы полагаетесь только на тестирование, всегда есть вероятность, что ваши тесты пропустят один сценарий, когда система ведет себя плохо и убивает людей”.
Пока не беспокойтесь о Скайнете
В заключение Фейтельсон обращается к распространенному страху перед тем, что роботы захватят власть над человечеством, предполагая резкий разрыв между восприятием и реальностью.
“Возможно, самая большая опасность заключается в том, что нас втягивают в дискуссии об опасностях научной фантастики”, - предупреждает он.
“Поскольку люди заняты их обсуждением, они не обращают внимания на более приземленные проблемы. Но эти приземленные проблемы могут стать очень опасными, если мы будем их игнорировать”.
