Почему не запускается автономка: Что делать если не запускается автономка — советы от специалистов Business Auto.

00000 н. 0000190703 00000 н. 0000190780 00000 н. 0000190822 00000 н. 0000190966 00000 н. 0000191381 00000 н. 0000191881 00000 н. 0000192023 00000 н. 0000192644 00000 н. 0000192793 00000 н. 0000193212 00000 н. 0000193357 00000 н. 0000193953 00000 н. 0000194350 00000 н. 0000194772 00000 н. 0000195078 00000 н. 0000195493 00000 н. 0000195904 00000 н. 0000196248 00000 н. 0000196668 00000 н. 0000197094 00000 н. 0000197460 00000 н. 0000197780 00000 н. 0000198171 00000 н. 0000198416 00000 н. 0000198760 00000 н. 0000199235 00000 н. 0000199576 00000 н. 0000200016 00000 н. 0000200401 00000 п. 0000200590 00000 н. 0000200772 00000 н. 0000201126 00000 н. 0000201505 00000 н. 0000202043 00000 н. 0000202290 00000 н. 0000202663 00000 н. 0000203104 00000 н. 0000203643 00000 н. 0000204037 00000 н. 0000204418 00000 н. 0000204843 00000 н. 0000205030 00000 н. 0000205370 00000 н. 0000205412 00000 н. 0000205603 00000 н. 0000206008 00000 н. 0000206365 00000 н. 0000206694 00000 н. 0000206964 00000 н. 0000207524 00000 н. 0000208006 00000 н. 0000208356 00000 н. 0000208742 00000 н. 0000209026 00000 н. 0000209374 00000 н. 0000209811 00000 н. 0000210283 00000 п. 0000210714 00000 н. 0000211062 00000 н. 0000211463 00000 п. 0000211957 00000 н. 0000212468 00000 н. 0000212969 00000 н. 0000213450 00000 н. 0000214051 00000 н. 0000214241 00000 н. 0000214913 00000 н. 0000215582 00000 н. 0000215979 00000 н. 0000216390 00000 н. 0000216810 00000 н. 0000217216 00000 н. 0000217632 00000 н. 0000217674 00000 н. 0000217727 00000 н. 0000218155 00000 н. 0000218187 00000 н. 0000218229 00000 н. 0000218282 00000 н. 0000218713 00000 н. трейлер ] >> startxref 0 %% EOF 194 0 obj> поток x \ TiNHUE) IH% @ Bg HjAAˌ & 0 # R0 讳 Y {ѹ9Ww (}) @ (dTAʠ $ QA &; 8b; ۊ ӂ>, |

Автономность: в поисках основы для автономных систем следующего поколения

Автономные системы уже способны заменить людей в выполнении множества функций .Эта тенденция сохранится в ближайшие годы, когда автономные системы станут центральным и решающим фактором человеческого общества. Они будут широко распространены и будут включать, например, автомобили всех видов, медицинских и промышленных роботов, сельскохозяйственные и производственные объекты, а также распределенное управление дорожным движением, городскую безопасность и электрические сети.

Многие организации уже стремятся разработать новую волну надежных и экономичных автономных систем, а исследователи заняты созданием мощных инструментов и методов для процесса разработки.Однако чрезвычайно высокие уровни сложности и критичности создают новые фундаментальные проблемы. Рассмотрим, например, даже очень скромную автономную систему, робота-парковщика — очевидно, далеко от полностью автономного транспортного средства (АВ). Клиенты и регулирующие органы будут полностью вправе спросить, сможет ли робот обнаружить ребенка, которого забыли в машине, или заметить, что под ним сидит домашняя собака. Что в результате сделает робот, даже если он сможет это заметить? Как он отреагирует, если человек попытается остановить его, преследуя его и крича?

Ожидается, что автономные системы следующего поколения будут работать в условиях, которые часто будут непредсказуемыми во время их разработки из-за ограниченного контроля над системной средой, динамического появления новых видов объектов и событий в мире и экспоненциальный рост числа составных конфигураций таких элементов, как старых, так и новых.В литературе есть интересные демонстрации и обсуждения непредсказуемости автономных систем; см., например, (простое) видео SpotMini о домашнем помощнике (1) и, что более важно, обсуждение / критику его демонстрационной среды (2). Хотя тестовые среды и механизмы моделирования обеспечивают постоянно увеличивающееся разнообразие и реализм [см., Например, CARLA (3), PARACOSM (4), HEXAGON MSC (5) и Cognata (6)], они по-прежнему являются ограниченными и синтетическими. Инженеры должны иметь возможность заверить клиентов и регулирующие органы в том, что система будет работать правильно и безопасно не только в большом количестве критических сценариев, но и в сложных ситуациях с высоким риском, о которых раньше даже не думали.

Растет осознание того, что задачи разработки автономных систем следующего поколения будет трудно решить из-за недостатков в установленных методах и процессах. Другими словами, проблемы, подобные тем, которые описаны выше, не могут быть решены путем простого улучшения функций безопасности системы, например, путем добавления датчиков, исполнительных механизмов и логики и / или путем выполнения более сложных тестовых сценариев. Действительно, для решения некоторых из этих проблем объединенное сообщество, состоящее из соответствующих групп в промышленности, правительстве и академических кругах, запускает мероприятия по составлению дорожных карт и крупномасштабные совместные проекты (7⇓⇓ – 10).

Тем не менее, мы спорим, этого недостаточно. Требуемая надежность требует различных и более фундаментальных достижений в определенных соответствующих областях, как для инструментов разработки, так и для окончательной реализации системы. Мы считаем, что для сокращения разрыва между проблемами в разработке заслуживающих доверия автономных систем следующего поколения и нынешним уровнем развития техники исследовательское и промышленное сообщество должно создать общую инженерную основу для разработки таких систем. Эта основа, которую мы называем «автономность» *, должна решать уникальные проблемы, связанные с такими системами, путем предоставления концепций, перспектив и инженерных принципов, а также вспомогательных методов и инструментов.Концепции должны быть достаточно широкими, чтобы охватывать несколько способов работы, и должны включать средства для выбора среди альтернативных проектов, технологий и инструментов.

Мы считаем, что наличие такой основы может значительно ускорить развертывание и принятие высококачественных, сертифицированных автономных систем, созданных на благо человеческого общества.

Автономные системы нового поколения

Предварительные определения.

За прошедшие годы было предложено множество определений автономии (например,г., исх. 11⇓ – 13). «Автономные вычисления» (например, ссылка 14) фокусируются на системах, способных к самоуправлению и, в частности, автоматизировать динамическое конфигурирование. Область исследования агентно-ориентированного проектирования и, в частности, «многоагентных систем» (например, ссылка 15) предлагает перспективу автономии с уделением особого внимания проблеме объединения локальных целей с правилами сотрудничества и распределенными алгоритмами для достижения общесистемной общей цели. Автономия часто ассоциируется с «самосознанием» (например, исх.16), что подразумевает способность системы воспринимать изменения окружающей среды и использовать «знание» своих собственных состояний для адекватной реакции, так что достигается набор целей. «Симбиотические вычисления» (например, ссылка 17) изучают, как автономные системы могут взаимодействовать и взаимодействовать с людьми и со сложными организациями, учитывая многочисленные технические, коммерческие и этические последствия этого. Кроме того, контроллеры, разработанные с использованием таких шаблонов, как Sense – Decide – Act или Monitor – Analyze – Plan – Execute (MAPE), иногда называют автономными; однако одних таких контуров управления явно недостаточно для того, чтобы система могла перемещаться, вести себя и правильно функционировать в произвольных реальных открытых средах.

Чтобы упростить последующее обсуждение, мы предлагаем в этом и следующем подразделах определения некоторых основных понятий (см. Также ссылки 18⇓ – 20) и проиллюстрируем их на примере AV для фабрики. напольные и заводские поставки (называемые здесь FFAV).

«Системы» — это артефакты, над созданием которых работают команды разработчиков. Система работает внутри внешней среды и реагирует на нее и состоит из двух типов компонентов, агентов и объектов (последние, как объясняется ниже, обычно не создаются командой разработчиков), которые, как мы увидим, работать в общей внутренней системной среде.Скоординированное коллективное поведение агентов и объектов системы предназначено для достижения некоторых глобальных общесистемных целей.

«Объекты» — это те компоненты, на запрограммированное поведение которых не влияют во время разработки системы. Например, объекты системы FFAV могут включать в себя готовые компоненты, такие как двигатель, набор камер или рулевой механизм, вход которого, скажем, является желаемым углом передних колес. Система часто взаимодействует с объектами, которые не являются ее частью, но являются частью окружающей среды.Таковы, в случае FFAV, машины в производственном цехе (которые могут быть простыми препятствиями или получателями доставки) и пакеты, которые должны быть доставлены. У объектов есть «состояния», которые могут быть изменены агентами или другими объектами или могут изменяться «спонтанно» по внутренним причинам. Эти внутренние и внешние объекты становятся частью внутренней и внешней среды системы соответственно.

«Агенты» — это основные элементы поведения автономной системы. Это те, которые спроектированы (запрограммированы, построены) как часть процесса разработки системы. ^† У агентов есть «свобода действий»: они активны и преследуют определенные цели, которые могут динамично меняться. Агенты могут отслеживать объекты из внутренней и внешней среды и изменять их состояния. Они также могут координировать свои действия с другими агентами. Таким образом, система FFAV может иметь либо одного агента для всех своих функций, либо отдельных агентов для различных задач, таких как планирование работы, планирование маршрута, управление перемещением, захват и переноска. Агенты сами могут быть автономными системами и могут, в свою очередь, иерархически содержать других агентов и системы.

«Внутренняя среда» — это физическая и виртуальная инфраструктура нижнего уровня, используемая агентами и объектами системы. Он может включать компьютер / процессор / память, батареи и другие источники питания, операционную систему, коммуникационное оборудование и программное обеспечение, а также программное обеспечение для управления базами данных.

«Внешняя среда» системы (часто называемая просто «средой») — это совокупность всех объектов, с которыми система может взаимодействовать. Он может включать другие системы (с их объектами и агентами) и автономные объекты, а также любые другие физические или виртуальные объекты, которые могут влиять на поведение системы или быть затронутыми им.Ключевыми объектами во внешней среде любой системы, конечно же, являются люди — с их непредсказуемостью, инициативой, а также способностью и властью изменять поведение системы.

Определение автономного поведения.

Мы говорим, что система или агент (для простоты мы будем придерживаться системы ниже) проявляет «автономное поведение», если он воплощает следующие пять поведенческих функций, которые выполняются с минимальным вмешательством или без вмешательства человека или других систем. .

Две функции объединены, чтобы позволить системе построить для себя полезное представление о состоянии внешней среды.«Восприятие» — это функция, которая вводит стимулы, интерпретирует их основное значение и устраняет двусмысленность, давая релевантную информацию. Часто восприятию приходится иметь дело с мультимодальными входами, такими как зрение, звук, тепло, прикосновение, радар и передача данных из других систем, все полученные с помощью датчиков и устройств ввода, зависящих от режима, и затем должны объединять полученную информацию. Вторая функция — «Обновление модели», которая использует информацию, предоставленную Perception, для создания и постоянного обновления интегрированной модели времени выполнения, представляющей среду системы и ее состояния.Затем эта модель будет использоваться при постоянном принятии решений.

Две другие функции составляют процесс адаптивного решения системы. Это означает, что при принятии решений учитываются многие, возможно, конфликтующие цели, что зависит от текущего состояния системы и окружающей среды. «Управление целями» выбирает из набора целей те, которые имеют отношение к текущему состоянию. «Планирование» вычисляет план для достижения набора целей, созданных Goal Management, с учетом ограничений, зависящих от состояния; это действие агента в ответ на текущее состояние среды и может состоять из последовательности команд, которые должны выполняться исполнительными механизмами.И управление целями, и планирование могут принимать участие в решении противоречивых целей; они делают это, например, путем установления приоритетов, разрешения ограничений, продолжения работы по нескольким параллельным планам (отсрочки принятия решения) и консультаций с людьми или с другими системами.

Пятая функция, которая характеризует автономное поведение, — это «Самоадаптация», которая обеспечивает динамическую корректировку с течением времени целей системы и процессов управления целями и планирования посредством обучения и рассуждений на основе развивающегося состояния системы и ее среда.Такая адаптивность может проявляться во многих формах: в ближайшем будущем, например, используя метод проб и ошибок и недавний опыт, чтобы обойти незнакомое и ранее не указанное препятствие; «Обучение на протяжении всей жизни» системы, постоянная переоценка всей истории сенсорной информации, ее действий, успехов и неудач, чтобы лучше достигать своих целей в динамичной непредсказуемой среде; даже достижение определенной независимости, когда автономная система изучает всю изменяющуюся среду, выходящую далеко за рамки ее задач, и может корректировать не только свою работу, но и свои цели (рассмотрим AV, который, обнаружив, что ключевой пользователь не может путешествовать, организует сам по себе, чтобы привлекать людей или объекты к этому пользователю, или способствует телеконференции).Вопрос о том, когда следует ограничить адаптивность системы и привлечь людей, является широким и требует долгих размышлений и дальнейших исследований.

Автономные системы нового поколения разные.

Автономные системы нового поколения, как те, которые уже начинают появляться, так и, безусловно, будущего, отличаются от существующих систем несколькими ключевыми аспектами. Эти аспекты, которые мы сейчас обсуждаем, ставят прилагательное «следующее поколение», которое мы прилагаем к системам, о которых мы здесь говорим, за пределами тех, которые разрабатываются сейчас и будут введены в действие в самом ближайшем будущем.Скорее, мы рассматриваем те системы, которые, по нашему мнению, будут преобладать только через значительное количество лет.

У них есть большое количество возможных противоречащих друг другу системных целей.

Типичная автономная система следующего поколения не будет ориентирована на небольшое количество четко определенных целей, таких как выигрыш в шахматы или транспортное средство, достигающее пункта назначения без столкновений. Они обычно сталкиваются с гораздо более широким и более сложным набором целей, как это часто бывает у людей. Учтите, что FFAV выполняет очень критическую (и дорогостоящую) доставку, которая может подвергаться риску из-за проблем с безопасностью.Ситуация осложняется еще и финансовыми и юридическими соображениями производителя. ^‡ Например, владелец химического плана, который использует FFAV, может захотеть разрешить FFAV (осторожно) не подчиняться знаку остановки при выполнении очень срочной доставки, но производители FFAV могли запрограммировать его на полное соблюдение закона, чтобы уменьшить их ответственность.

Их окружение значительно менее предсказуемо.

Даже нынешние автономные системы уже имеют дело с огромным количеством известных конфигураций среды, и те, о которых мы еще не знаем, очевидно, добавят к этой сложности совершенно новый порядок величины.В то время как AV-обработка различных топологий дорог, объемов и скоростей движения, вероятно, может быть решена с использованием существующих технологий, существуют более сложные проблемы, с которыми люди обычно справляются и которые до сих пор не решаются должным образом. Для AV это, например, прихоти велосипедистов и мотоциклистов, которые въезжают и выезжают из транспортного потока на дорогах, тротуарах и пешеходных переходах; полицейские инструкции, устные или сигнальные; плохо обозначенные временные отклонения; чрезвычайные ситуации, которые еще не были обработаны службами быстрого реагирования, такие как дорожно-транспортное происшествие, оползень / камнепад или наводнение; или срочная просьба пассажира остановиться и выйти, но в тех случаях, когда для этого нет безопасного места.Подобные трудности вызваны возрастающей зависимостью от трудно предсказуемых физических аспектов динамической среды, усугубляемой возросшей мобильностью, распределением и огромным количеством систем.

Они требуют активного взаимодействия с людьми.

Классическое взаимодействие человека с компьютером (HCI) обычно ориентировано на обученных пользователей или операторов, управляющих автоматизированными задачами. Будущие интерфейсы должны будут иметь дело с общим поведением системы, воспринимаемым людьми, с тем, как система влияет на человеческое поведение и с тем, как люди думают о поведении системы.Автономные системы следующего поколения будут влиять на гораздо более широкий круг людей и подвергать их риску, и они будут все больше подвергаться как полезным, так и враждебным действиям человека с необходимыми коммуникациями и взаимодействием, в которых они нуждаются. Достаточно подумать о пробке, вызванной AV-системой на оживленном шоссе, автономным краном на оживленной строительной площадке в центре города или роботом с медицинским снабжением, спешащим по переполненному коридору больницы, чтобы доставить спасательную жизнь.

Проблема взаимодействия с людьми гораздо глубже классической HCI.Во-первых, потому, что будущие системы будут работать в обычном человеческом окружении, имея взаимодействие с людьми, которые не являются ни пользователями, ни операторами, и над которыми владелец автономной системы не может контролировать. Их поведение не только должно быть функциональным, эффективным и безопасным, но также должно казаться таковым, чтобы вселить в людей уверенность в том, что это действительно так. Эти системы будут взаимодействовать с людьми совершенно по-новому, даже в рамках обычных повседневных дел, таких как преодоление полосы отвода через дверь офиса или указание пролива на полу проходящему мимо роботу-помощнику по уборке.

Во-вторых, интерфейс человек-компьютер должен быть гораздо более обширным, чем простой дисплей и клавиатура. Он будет охватывать большую часть того, что понимает и делает автономная система. Если FFAV должен передать хрупкую посылку человеку и забрать у него другую посылку, то как он сообщает о своей готовности передать одну и получить другую, свои вопросы (например, получил ли человек-получатель уже удержание первый пакет?), его состояние (например, теперь он надежно держит вторую упаковку, так что хватка и внимание человека больше не нужны) и так далее.

В-третьих, особое внимание следует уделить тем частям интерфейса, которые позволяют человеку прервать работу автономной системы или резко ее изменить. Если рабочий уронил контактную линзу, которую FFAV не видит, как он / она немедленно ее остановить? Если FFAV получил неправильный пакет, как человек отзовет его обратно? Если какая-то аварийная работа блокирует нормальный, предварительно запрограммированный маршрут FFAV, и объезд не может быть легко обнаружен, как можно дать FFAV альтернативную специальную инструкцию в реальном времени и естественным образом, которая заставит его использовать конкретный альтернативный маршрут, например, съезд для инвалидов за зданием C?

Почему новый фонд?

Наше основное утверждение в этой статье состоит в том, что разработка заслуживающих доверия автономных систем следующего поколения требует решения фундаментальных проблем, которые не были должным образом решены в ходе нынешних исследований или промышленного опыта.Мы призываем исследовательское и инженерное сообщество создать и развивать основу для разработки таких систем, которая будет рекомендовать инженерные практики и методы, указывать на инструменты и технологии и предлагать базы и примеры с открытым исходным кодом. Он также будет включать метаинформацию, например, надежные средства для выбора альтернативных вариантов проектирования и разработки системы. Хотя эта основа автономии должна касаться всех аспектов системной инженерии, изначально она не должна быть направлена ​​на переписывание общепринятых принципов системной инженерии, а должна решать «острые» проблемы (например, те, которые мы обсуждаем в следующих разделах) и предлагать пути решения с ними на протяжении всей разработки.В противном случае широкие, всеобъемлющие усилия могут размыть и затемнить важные инновации, ради которых они были созданы, и даже могут быть полностью отвергнуты как бесполезная попытка «вскипятить океан». В то же время, если появятся дополнительные новые подходы к укоренившимся практикам, они должны быть серьезно оценены и, где это применимо, включены.

Существование разрывов между уровнем техники и достижением желаемой надежности было сформулировано, например, в официальном документе Института инженеров по электротехнике и радиоэлектронике (21) и в работе Neumann (22).В частности, последний фокусируется на необходимости справляться с воздействием уязвимости компонентов на полную уязвимость составной системы. В литературе, посвященной созданию и тестированию сложных автономных критически важных для безопасности систем (например, ссылка 23), очень мало теорий и инструментов для обеспечения уверенности (или доверия) в поведении системы во время выполнения перед лицом непредсказуемой ситуации. ситуации. В тесно связанном с этим обсуждении проблем, с которыми сталкиваются системы следующего поколения, Чанг (24, 25) утверждает, что новые решения и действительно смена парадигмы необходимы и возможны, и что они могут быть реализованы с помощью новых подходов к анализу ситуации.

Чтобы подкрепить наш аргумент о важности и масштабности необходимого фундамента, мы сосредоточимся здесь на одном центральном аспекте, который лежит в основе разработки автономных систем, — на принятии решений. Мы представляем три частично совпадающих проблемы в разработке процессов принятия решений, для которых еще предстоит найти удовлетворительные решения.

Задача I. Определение поведения.

Поведенческая спецификация необходима практически на всех этапах и действиях процесса разработки: требования, проектирование, моделирование, тестирование, верификация и валидация.Поведение предпочтительно должно быть определено на каком-то строго определенном языке с согласованной динамической семантикой, но, по крайней мере, оно также может быть выполнено таким образом, чтобы его можно было напрямую сопоставить с точными и технически ориентированными описаниями естественного языка. Хотя для этой цели было разработано множество разнообразных компьютерных языков — процедурных, декларативных, логических, состояний, сценариев и т. Д. — мы утверждаем, что в автономных системах следующего поколения сама спецификация поведения порождает новые проблемы, требующие решения. Обширные исследования.Такие спецификации должны охватывать как классические желаемые, так и нежелательные последовательности событий и действий, связанные цели и их взаимные отношения, фактическое поведение, наблюдаемое и интерпретируемое машинами и людьми, а также предполагаемое поведение, которое, возможно, не было полностью соблюдено. Спецификация должна служить для создания систем, их тестирования, обеспечения связи между системами, между людьми, а также между системами и людьми, а также для обеспечения возможности метаанализа такой спецификации.

Когда дело доходит до сложных автономных систем, сложно определить даже одну простую цель.Предположим, что работодатель впервые хочет полностью автоматизировать процесс мытья полов. Какие спецификации нам нужны? Должен ли он быть сфокусирован на действиях (например, где и как подмести), на объектах и ​​объектах окружающей среды (например, какие виды грязи следует удалять и откуда) или на состояниях и результатах (например, на каких полах и как выглядят полки после того, как работа сделана)? Как следует сообщить разработчикам (и системе) о необходимости перемещать небольшие объекты или отключать устройства, которые мешают, или о том, как справиться с такими рисками, как что-то сломать?

Мы считаем, что здесь нам нужны способы описания соответствующего «мира» и связанного с ним поведения.Для этого мы предлагаем разрабатывать предметно-ориентированные онтологии объектов, свойств, действий и отношений. Это направление может расширяться или извлекаться из текущих онтологий, таких как проект CYC (26), Google Knowledge Graph, язык веб-онтологий OWL и другие, но также может иметь различные направления проектирования. Например, сама сущность сущностей может быть связана с относящейся к действию информацией о том, что эти сущности делают, что с ними можно делать или как другие системы, как ожидается, на это отреагируют.В данном случае цель состоит не в том, чтобы получить исчерпывающие (но неуловимые) знания, а в том, чтобы дать возможность принимать решения в рамках репертуара действий системы. Например, если FFAV видит на своем пути объект, который не может распознать, он должен иметь возможность представить изображение и, возможно, информацию датчиков другим объектам, таким как сервер в облаке. Затем сервер может проинформировать FFAV о том, что это за объект, чтобы он мог применить свои существующие правила, или он может дать команду FFAV предпринять определенные действия на основе знаний и логики сервера.

В контексте автономных систем некоторый прогресс в этих направлениях можно найти, например, в диаграммах последовательности движения (27), сценариях Национальной администрации безопасности дорожного движения США (28), программном обеспечении для АВ (29) и с открытым исходным кодом. тренажеры типа CARLA (3). Каждый из них использует свои собственные термины и концепции в качестве строительных блоков при построении инструмента снизу вверх.

Помимо проблемы определения отдельных целей, кроется крайняя сложность определения того, как система должна уравновесить, расставить приоритеты или взвесить несколько, часто конкурирующих целей, в ошеломляющем множестве обстоятельств.Даже в одной конкретной ситуации, и даже если мы разрешаем использование естественного языка для спецификации, часто почти невозможно указать, что система должна или не должна делать. Многим автономным системам будущего поколения придется принимать сложные решения, связанные с серьезными человеческими и бизнес-рисками, и мы сомневаемся, что заинтересованные стороны могут заранее предписать, что система должна делать в каждом конкретном случае.

Кроме того, конечно, помимо технических вопросов спецификации, есть еще и серьезные этические вопросы.Суды выносят решение о том, было ли решение, принятое человеком, правильным или неправильным, небрежным или нет, в соответствии с тем, что ожидается от разумного человека. Это станет значительно сложнее в сфере автономных систем, которые, например, должны будут определить, где именно сделать начальный разрез во время хирургической процедуры, или за доли секунды решить между двумя очень плохими альтернативами в аварийной ситуации вождения. .

Во время моделирования заинтересованные стороны часто сталкиваются с неожиданными свойствами и неожиданным поведением, которые не упоминались в процессе разработки.Например, при наблюдении за поведением AV, такого как FFAV или тележка для гольфа, можно заметить, что он иногда повторяет путь с необычной точностью, вызывая неожиданный износ пола, земли или травы. В результате могут потребоваться новые требования, такие как рандомизация путей, документирование ограниченного набора поддерживаемых поверхностей или даже использование преимуществ такого рода предсказуемости в других частях системы.

Еще одним осложняющим моментом являются динамические изменения спецификаций.Для человека, выполняющего определенную задачу, нет ничего необычного в получении новой информации или инструкций об изменениях в целях, в средствах их достижения или в предположениях об окружающей среде. Люди чаще всего неплохо справляются с такими обновлениями. Автономные системы должны будут поддерживать такие способы коммуникации и реактивного поведения (16).

Сделать это непросто. Непонятно даже, как указать формальную версию «заявки на неисправность», которая описывает событие, свойство или закономерность, которые были замечены человеком-наблюдателем, но не были частью исходной спецификации.Кроме того, можно было бы автоматизировать обнаружение и артикуляцию эмерджентных свойств, поскольку тестирование и моделирование, вероятно, будут в высокой степени автоматизированными, с ограниченными возможностями для наблюдения человеком. Для ожидаемого поведения (желаемого или нежелательного) это было бы очень похоже на тестирование; но для неожиданного поведения автоматизация самого захвата формальным, но кратким и интуитивно понятным способом может оказаться серьезной проблемой, требующей существенного расширения текущих исследований в таких областях, как спецификация и обнаружение аномалий добычи (см.г., исх. 30⇓ – 32). Фактически, мы считаем, что известная цитата Кнута: «Остерегайтесь ошибок в приведенном выше коде; Я только доказал, что это правильно, а не пробовал », выходит за рамки признания важности тестирования с учетом ограничений формальных методов и доказательств правильности. Его можно использовать для подтверждения нашей уверенности в том, что тестирование необходимо еще и потому, что простое наблюдение за системой в работе дает совершенно новое понимание того, что система делает, а что не делает, и что она должна или не должна делать.

Объясняемость и интерпретируемость особенно важны для возникающих свойств, особенно для тех частей решений, которые основаны на нейронных сетях и других подходах «черного ящика».В некотором смысле, объяснения создают модель на основе, казалось бы, безмодельного решения для машинного обучения. Кроме того, и здесь автоматическое обобщение таких шаблонов выполнения является сложной задачей, которая является предметом активных исследований. Мы частично обсуждаем этот вопрос в Challenge III: Combining «Model-Based» и «Data-Driven подходы» ниже.

Задаче определения и объяснения поведения, которое должно динамически согласовывать несколько целей, можно облегчить, изначально добавляя веса, приоритеты и взаимные ограничения к целям, а также просто наблюдая за работой системы и наделяя компоненты, отвечающие за различные цели, с помощью возможности динамического внутреннего согласования.Ключевую роль также будут играть механизмы для определения и обработки случайного поведения, которое реагирует на негативные условия, непосредственно связанные с фактическим поведением системы, и обрабатывает их. Возможность давать краткие объяснения решений системы как в реальном времени, так и постфактум будет иметь большое значение, поскольку позволит разработчикам и самой системе судить о запрограммированных решениях и корректировать их по мере необходимости.

Вызов II: Анализ.

Под анализом мы подразумеваем моделирование, тестирование, формальную верификацию и проверку системы в соответствии с негласными потребностями заинтересованных сторон (сокращенно STV & V).Хотя эти методы будут иметь первостепенное значение для автономных систем следующего поколения, хорошо известно, что ни один из них не обеспечивает полных гарантий даже для существующих систем, поэтому их придется использовать таким образом, чтобы они дополняли друг друга.

Различные методы, входящие в состав STV & V, все включают в себя тот или иной способ выполнения системы или ее модели управляемым образом и / или обход или анализ результирующих состояний. Моделирование, пожалуй, является наиболее «практическим» из них, и оно облегчает наблюдение возникающих форм поведения — желаемых, нежелательных и еще не определенных — в различных условиях.Однако смоделированная среда всегда будет абстракцией и упрощением реальности. Существует множество инструментов моделирования, относящихся к AV; см., например, ссылки. 4, 8, 11 и 17. Хотя они эффективны и предоставляют важные функции, хотя и распространяются на разные инструменты, предлагаемая здесь основа требует дополнительных важных возможностей, таких как гораздо больший контроль пользователя над изменчивостью среды и возможность автоматического обнаружения и оценить новые эмерджентные свойства, которых не было в исходных спецификациях испытаний.

Одной из основных причин того, что удовлетворительный анализ STV&V требует фундаментальной работы, является огромное количество объектов и переменных, задействованных в сложных автономных системах, а также еще большее количество и сложность взаимодействий между ними. Это то, что мы сейчас обсуждаем.

Автономным системам обычно приходится иметь дело с множеством новых элементов, которые часто игнорируются, упрощаются или управляются другими системами. Просто представьте себе FFAV, развернутый на загруженном открытом производственном дворе, где люди, оборудование и транспортные средства перемещаются, обладая четкими формами, цветами, типами отражений, текстурами, размерами, местоположениями, позиционированием и маршрутами.Точное моделирование и эффективное тестирование этих систем и сред — сложная задача. Более того, что касается их взаимодействия, здесь проблема становится опасно обостряющейся. «Преднамеренные» действия системы можно разумно контролировать, но количество и сложность возможных взаимодействий и косвенных эффектов между всеми объектами окружающей среды и системой ошеломляют. Подумайте о тестировании очень маленького FFAV, пробивающегося сквозь толпу людей и машин, возможно, даже других живых существ — как в шоу домашнего скота.Взаимодействия, с которыми он должен иметь дело, не ограничиваются очевидными целями, например, достижением пункта назначения, избегая столкновений и соблюдая правила дорожного движения. Как насчет взаимодействия между объектами, которое возникает, когда FFAV пытается избежать брызг прохожих, когда он пересекает лужу? Как ему поступать в случаях, когда он может непреднамеренно напугать людей, когда тихо и внезапно появляется рядом с ними, или когда он запутывается в кабеле или в рыхлой ткани?

Как указывалось ранее, тот факт, что люди обитают во внешней среде автономных систем, еще больше усложняет ситуацию.Например, способность человека учиться и адаптироваться к новым условиям, вероятно, надолго превзойдет способность большинства систем. На такую ​​человеческую адаптивность можно положиться для определенных систем, где разработчики могут позволить системам изменять свое собственное поведение даже без предварительной координации с затронутыми людьми, полагая, что люди «все поймут» самостоятельно. Эта адаптивность также часто позволяет людям корректировать или отменять поведение систем, которые они контролируют. В любом случае полезно проанализировать границы допущений об окружающей среде, учитывая также прихоти людей.

Как и в случае со спецификациями, ниже мы перечисляем некоторые проблемы, которые должна решить автономная основа в отношении анализа. Один из них, который является предварительным условием любого анализа, связан с «моделированием окружающей среды». Мы предполагаем использование специализированных библиотек для различных типов систем и задач, чтобы иметь дело с физическим трехмерным пространством реальных объектов и их мобильностью. Эти библиотеки будут разными для разных областей применения.Подумайте только о самых разных средах, имеющих отношение к медицинской системе и транспортной системе. Среда должна быть смоделирована с использованием языков и инструментов, которые могут описывать знания об окружающей среде и ее допущения, а также для достижения желаемого уровня реализма путем управления уровнями абстракции и детализацией моделирования.

Второй вопрос, который должен будет решить фонд, который особенно важен для анализа, касается «инфраструктуры», необходимой для STV&V.Это должно было бы включать механизмы, которые организуют и контролируют выполнение; настроить физическую или виртуальную среду; при необходимости играть роль окружающей среды; наблюдать, записывать, анализировать и действовать в соответствии с фактическим поведением системы; и взаимодействовать с инженерами по этим и связанным функциям. Мы хотим иметь возможность тестировать и моделировать автономные агенты во взаимодействии со сложной киберфизической средой, для которой они создаются. Инфраструктура должна быть «осведомленной о состоянии» и прозрачной, иметь возможность общаться с инженерами с использованием естественных интерфейсов и журналов, которые интуитивно описывают состояние внешней среды, внутреннее состояние системы и ее агентов, а также состояние восприятия агентов. внешней среды.

Например, предположим, что вы хотите выяснить, что будет делать FFAV, когда он сталкивается с препятствием, состоящим из двух столбов, расположенных на расстоянии, которое едва превышает ширину FFAV. Будет ли он перемещаться между ними или обходить их? Стандартные методы тестирования и моделирования требуют фактического размещения препятствий и наблюдения за поведением системы. Однако, если мы также тщательно не проверим обратную связь от тестируемой системы относительно того, что она «думает» о том, что она увидела, нельзя быть уверенным в том, что она воспринимает условия так, как задумано.Таким образом, FFAV действительно может проходить между постами, но по неправильной причине: он мог неправильно классифицировать один или оба из них.

Такой контроль восприятия является частным случаем осведомленности о состоянии, когда во время STV&V инфраструктура может сообщать о состоянии системы и окружающей среды; может управлять работой компонентов системы в зависимости от состояния других; и может сообщать и реагировать на то, что система делает и не делает, пути выполнения и т. д. Сложность всего этого усугубляется непредсказуемостью поведения.Даже относительно простая проблема определения того, какие из состояний и взаимодействий агента могут происходить параллельно с другими, чрезвычайно трудна.

Третья важная задача аналитической части фундамента связана с контролем и измерением «поведенческого покрытия», достигаемого посредством тестирования, будь то виртуальное / in silico или путем развертывания автономной системы в реальном физическом мире. Такое покрытие относится к пространству всех состояний составной системы, в нескольких компонентах, а также путей и сценариев достижения этих состояний.Текущие методы тестирования сосредоточены на множестве соответствующих аспектов, включая охват объектов разработки (таких как операторы, компоненты, изменения программы и требования / утверждения), автоматическое выполнение и оценка тестов и автоматическое создание сценариев (33, 30). Производители AV иногда представляют количество миль (реальных и смоделированных), которое они проехали (см., Например, ссылки 34 и 35), как показатель поведенческого охвата.

Для тех типов систем, которые мы имеем в виду, которые будут развернуты в большом количестве по всему миру, эти подходы неадекватны.Даже то, что здесь кажется абсолютным минимумом — практический подход к измерению общего составного покрытия состояний как для системы, так и для среды — уже достаточно сложно (см. Обсуждение в ссылке 36). Мы предполагаем, что необходимо разработать методы для автоматической генерации обширных наборов сценариев с учетом критериев, которые могут быть внешними, то есть из окружающей среды и реального мира, или внутренними, такими как сложные поведенческие комбинации объектов спецификации и реализации. Более того, учитывая невозможность исчерпывающего охвата всех возможностей времени выполнения, нам нужна поддержка ускоренного метаморфического тестирования в физических средах; я.д., тщательно проверяя правильность поведения системы для данного сценария, а затем быстро предоставляя гарантии для многих других сценариев, которые отличаются от базового сценария только небольшими физическими изменениями. Нам также нужны подходящие критерии для оценки самого процесса тестирования.

Наконец, фонд автономии должен будет заняться «формальной проверкой». Даже самые лучшие современные методы проверки могут быть успешно использованы только для отдельных компонентов или для значительно упрощенных моделей всей системы.Кроме того, очень сложно не только описать поведение самой системы, но и указать утверждения, описывающие поведение, которое мы хотим проверить, в терминах, которые легко согласуются с ожиданиями пользователей и инженеров. Это еще больше усложняется тем фактом, что вопрос о том, желательно ли какое-то поведение, может быть не бинарным, а количественным, охватывающим несколько шкал (37).

Поскольку многие автономные системы следующего поколения будут иметь компоненты, основанные на машинном обучении (ML), формальная проверка нейронных сетей и возможность предоставить адекватные объяснения их внутреннего поведения будут становиться все более важными.Эти проблемы давно признаны очень сложными, и вокруг них появляется новая область исследований, первые результаты которых выглядят многообещающими (38, 39). Соответственно, в следующем разделе более подробно рассматривается проблема включения таких методов обучения на основе ИИ в основу.

Задача III: сочетание подходов, основанных на моделях и основанных на данных.

В последующем обсуждении мы используем термин «основанный на модели», чтобы включить классические подходы к разработке программного обеспечения, все из которых используют традиционные языки программирования и предписывают пошаговые процессы и / или правила, которые тщательно вручную создаются и организуются людьми.Сюда также входят методы проектирования приводов моделей (MDE), в которых используются языки, подобные тем, которые стали частью широкого унифицированного языка моделирования (UML). Однако мы не ограничиваемся MDE. Мы решили использовать термин «на основе модели», чтобы подчеркнуть тот факт, что разработчик должен создать и предоставить подробное техническое описание (модель) проблемы, ее входных и выходных данных, а также необходимой обработки и поведения. в терминах, которые соответствуют проблемной области.

Напротив, мы используем термин управляемый данными, чтобы охватить все методы, которые включают машинное обучение (включая, но не ограничиваясь этим, глубокие нейронные сети), статистический анализ, распознавание образов и все связанные формы вычислений, в которых поведение системы ограничено. получены в результате контролируемого или неконтролируемого наблюдения. Последнее может включать наблюдение за входными и выходными событиями и событиями в реальном мире или при обработке других систем, даже в более ранних версиях разрабатываемой системы.Таким образом делается вывод о желаемом поведении системы, которую мы разрабатываем; не предписывается, как в подходах, основанных на моделях.

Все чаще звучат призывы найти способы комбинировать эти две техники, используя их относительные преимущества для дополнения друг друга (40⇓ – 42). Тем не менее, до сих пор нет согласия о том, как это сделать, поскольку такая комбинация сильно отличается от практики интеграции в классической инженерии. Вдобавок, конечно же, из-за возникающих новых проблем проблема еще больше усугубляется для автономных систем следующего поколения.

Существует несколько различий между традиционной разработкой программного обеспечения и созданием решений на основе машинного обучения, которые необходимо учитывать при попытке их интеграции. Чтобы лучше сосредоточиться на проблеме интеграции в этом подразделе, мы не обращаем внимания на все еще открытые исследовательские проблемы в каждой из них.

Первое отличие касается «общего жизненного цикла». Традиционная программная инженерия — в любой из множества классических методологий жизненного цикла — требует выявления и спецификации требований, проектирования, кода, тестирования и так далее.Напротив, разработка модуля или системы на основе машинного обучения включает в себя совершенно разные этапы, такие как сбор, проверка и выборка обучающих данных, фактическое обучение, оценка, пересмотр и переподготовка и т. Д.

Второе отличие касается «указания» требования.» Рассмотрим даже очень простые случаи, например, требование о выключении электрического выключателя при достижении температуры 80 ° или включении тормозов при обнаружении неподвижного препятствия и времени остановки при текущей скорости менее 1 с.Они хорошо определены, и инженеры могут легко преобразовать их в рабочие компоненты, но для системы, обученной выдерживать чрезмерное нагревание или избегать столкновений на основе положительных и отрицательных примеров, совсем не ясно, как использовать требования или как их включить. в соответствующие компоненты ML.

С определением требований связан вопрос «объяснимости» постфактум (также именуемой «интерпретируемость»). Это требует способности обосновать или рационализировать конкретное системное решение с использованием связанных с проблемой параметров и аргументов.В более общем плане мы хотим иметь возможность описывать таким образом, что делает система, а также лежащие в основе правила, алгоритмы и вычисления, которые она использует. Несмотря на поразительный успех нейронных сетей в выполнении многих видов задач, их внутренняя работа часто остается загадкой. Текущие идеи, направленные на решение этой проблемы, все еще далеки от ситуации с традиционным программированием, для которого инженерные практики рекомендуют создавать код, который легко читать и понимать, и дополнять его обширными комментариями.Более того, даже если инструменты объяснимости и интерпретируемости в конечном итоге смогут извлечь неявные правила, лежащие в основе работы больших нейронных сетей, то, как эти правила соотносятся с реальными механизмами сети, будет сильно отличаться от отношения между описаниями естественного языка и исходным кодом в классической среде. языки программирования.

Кроме того, сложность определения поведения нейронных сетей и объяснения того, что они делают и почему они это делают, очень затрудняет анализ их поведения.Хотя некоторая начальная работа была проделана по проверке их свойств (см., Например, ссылку 39), многое еще предстоит сделать по тестированию и проверке систем, основанных на обучении.

Важное связанное различие включает «декомпозицию», которая имеет решающее значение на большинстве этапов разработки, например, для понимания и прогнозирования поведения системы, поиска и исправления ошибок, выполнения улучшений и оценки воздействия изменений. В проектах, основанных на моделях, большинство системных артефактов можно иерархически разложить на хорошо понятные функциональные и структурные элементы, причем роль, которую они играют в системе в целом, более или менее ясна.Напротив, разработка решений машинного обучения на основе данных обычно сопровождается комплексным мышлением — системным или проблемным. Возможность разложить решение машинного обучения на значимые части представляется интересной задачей, которая, конечно же, будет иметь значение для объяснимости и проверки.

Наконец, мы упоминаем о различиях между двумя подходами в отношении их «надежности и сертификации», которые явно связаны с тестированием и проверкой. Многие виды автономных систем очень важны; несоблюдение их ожидаемого поведения может иметь катастрофические последствия.Критическое проектирование системы требует предоставления соответствующих гарантий надежности функций и надежности системы. Они часто указываются в стандартах, таких как DO178B для авиационных систем и ISO 26262 для электронных компонентов в автомобильной промышленности. В принципе, методы, основанные на моделях, обеспечивают предсказуемость во время разработки, но компоненты, основанные на машинном обучении, проектируются иначе. Достижение приемлемого уровня надежности и сертификации требует совершенно новых технических решений, поскольку традиционные методы тестирования и моделирования неадекватны, учитывая сложность и непредсказуемость автономных систем следующего поколения.Дополнительные нетехнические меры, такие как управление рисками, концепция страхования или использование системы правосудия в качестве средства защиты от халатности, являются отдельными вопросами и выходят за рамки данной статьи.

Эти существенные различия иллюстрируют масштабы методологической и технической проблемы интеграции, которую фонд автономии должен будет решить. Чтобы дать относительно простой пример этого, рассмотрим предлагаемую систему, которая в конечном итоге должна состоять из обычных компонентов, управляемых моделями (на основе, например,g., на объектной модели, алгоритмах, сценариях, правилах и таблицах решений) и компонентах машинного обучения, управляемых данными (например, на основе нейронных сетей). В какой-то момент инженерам придется решить, какие подзадачи следует решить, используя какой из двух подходов. Иногда ответ прост: например, чтение дорожных знаков может быть полностью основано на машинном обучении, в то время как решение оставаться ниже известного ограничения скорости может быть основано на модели. Пребывание в полосе движения на чистом, хорошо размеченном шоссе может быть основано на модели, в то время как движение по покрытому песком дорожному покрытию вполне может быть основано на ML.Однако во многих случаях выбор между двумя подходами будет намного сложнее. Кроме того, разработка процесса принятия решения во время выполнения, который определяет, какая ситуация является релевантной, чтобы активировать соответствующий компонент (например, является ли поверхность дороги чистой или песчаной), сама по себе задача проектирования; параметры решения могут быть нечеткими, и разработчикам придется выбирать, использовать ли для этой подзадачи подход на основе модели, на основе данных или гибридный.

Фонд должен описывать и обсуждать различные конкретные подходы к интеграции.Одним из примеров является «конвейерный» подход, когда некоторая предварительная обработка выполняется одним методом, а промежуточные результаты передаются другому методу. В подходе «разделяй и властвуй» проблема делится на подзадачи, и к каждой из них могут применяться разные методы; фактическое разделение может быть основано на модели или на данных. В другом подходе один метод (обычно правила) служит «защитной оболочкой» для другого (обычно на основе машинного обучения), ограничивая его пребывание в некоторой области принятия решений.В дополнительных вариантах подход, который в основном основан на модели, может включать несколько черных ящиков, управляемых данными, для улучшения обработки сенсора или для решения конкретных подзадач. Можно также применить оба метода для разработки полных решений, создавая таким образом избыточность, а затем использовать различные методы композиции или «голосования» для получения окончательного поведения системы.

По определению, такие подходы к составлению гибридных решений из компонентов на основе моделей и машинного обучения также подразумевают первый уровень декомпозиции решений.

Обсуждение

Автономные системы следующего поколения определенно будут построены и станут обычным явлением в ближайшие годы. Многие из них проявят некоторую важную форму критичности. Им придется справляться с неопределенностью сложных, непредсказуемых киберфизических сред и им придется адаптироваться к многочисленным, динамично меняющимся и, возможно, противоречивым целям. Ожидается, что они будут гармонично сотрудничать с людьми, что приведет к так называемой «симбиотической» автономии.Их предсказанное появление отражает переход от «узкого» или «слабого» ИИ к «сильному» или «общему» ИИ, чего нельзя достичь с помощью обычных методов, основанных на моделях, или только машинного обучения. Таким образом, классическое программное обеспечение и системная инженерия должны быть полностью усовершенствованы.

AV представляют собой символический актуальный случай, иллюстрирующий проблему. Например, из-за отсутствия стандартов и методов оценки соответствия некоторые государственные органы разрешают самостоятельную сертификацию AV, несмотря на их критичность.Другой вопрос — доказательства. Производители часто публикуют лишь частичную информацию о своем тестировании, например, расстояние, на котором AV был протестирован. Тогда можно только надеяться, что поведенческий охват действительно был достаточным и что кто-то, кроме производителя, действительно изучил тесты и посчитал их удовлетворительными. Еще одна проблема, связанная с доверием, заключается в том, что критически важное программное обеспечение можно регулярно обновлять, что дает надежду на то, что определенные виды сбоев AV будут немедленно исправлены во всех AV по всему миру.Однако это также вызывает озабоченность по поводу того, что обновления могут быть развернуты с менее чем адекватным тестированием, вызывая проблемы более критического воздействия, чем стандартные обновления операционных систем смартфонов или персональных компьютеров.

Все это вызвало оживленную общественную дискуссию. Многие важные голоса стремятся свести к минимуму риски, связанные с отсутствием строгих методов проектирования: некоторые заявляют, что мы должны принять риски, потому что преимущества намного перевешивают их. Другие принимают эмпирические методы и утверждают, что строгие подходы к решению сложных проблем по своей сути неадекватны.Некоторые люди слишком оптимистичны, утверждая, что у нас действительно есть нужные инструменты, и это всего лишь вопрос времени. Кроме того, помимо всего этого, мы должны принять во внимание все соответствующие этические / моральные, правовые, социальные и политические вопросы — обширная тема, которая явно выходит за рамки данной статьи.

Наша газета вносит двойной вклад. Во-первых, мы предлагаем базовую терминологию для автономных систем следующего поколения и структуру, отражающую их основные характеристики, и обсуждаем, чем они отличаются от современных автономных систем.Эта структура дает представление о спектре возможностей между автоматизацией и автономией и предназначена для помощи в понимании степени автономности системы как разделения работы между системой и людьми.

Во-вторых, мы утверждаем, что появление автономных систем следующего поколения ставит необычайную научную и техническую проблему, и выступаем за необходимость создания новой основы, которая решит ключевые нерешенные проблемы в их разработке. Мы надеемся, что такая основа автономии в конечном итоге приведет к созданию надежных аппаратных / программных систем.Степень успеха в решении этой задачи в конечном итоге поможет определить степень принятия таких систем как компромисс между их предполагаемой надежностью, ожидаемыми преимуществами автоматизации, которую они предоставляют, и необходимыми изменениями в других системах и в поведении человека.

Мы ожидаем, что формирование этого фундамента потребует серьезных и новаторских усилий в трех основных направлениях, представленных выше, и которые мы кратко резюмируем ниже.

Первый — разработать строгую теорию и вспомогательные инструменты для работы с неоднородными спецификациями.Они должны дать возможность охарактеризовать поведение системы в широком смысле, включая поведение ее отдельных агентов, а также глобальное поведение системы с точки зрения ее общих целей и возникающих свойств.

Второе направление направлено на предоставление достаточных доказательств надежности системы. Мы подчеркнули первостепенную важность моделирования и симуляции: нам необходимо достоверное, реалистичное моделирование поведения, а также семантическая осведомленность, чтобы экспериментатор имел доступ к значимой абстракции динамики системы, обеспечивающей управляемость и повторяемость тестирования.Последнее также обеспечит поведенческий охват, где мы измеряем степень изученности соответствующих конфигураций системы.

Третье направление усилий, необходимых для фундамента, включает принятие мощного «гибридного» подхода к проектированию, поиск компромиссов между надежностью классических подходов, основанных на моделях, и производительностью методов машинного обучения на основе данных. Чтобы получить больше преимуществ от каждого подхода, требуется разработка общих архитектурных фреймворков, которые будут интегрировать модули, характеризующиеся их чистой функциональностью, независимо от их подхода к проектированию.Для достижения этой цели необходимо разработать теорию декомпозируемости, совместимости и объяснимости модулей на основе данных.

Таким образом, мы находимся в начале революции, когда машины призваны постепенно заменять людей в их способности осознавать ситуацию и принимать адаптивные решения. Для этого требуются некоторые аспекты общего ИИ, которые выходят за рамки целей интеллекта с поддержкой машинного обучения. Степень, в которой мы в конечном итоге будем использовать и извлекать выгоду из автономных систем, будет зависеть от того, насколько мы им доверяем, что является основной причиной написания этой статьи.

Автономная система — обзор

3.16.7 Рекомендации по выбору технологий

Автономные системы разрабатываются в отдаленных районах, где нет электросети. Из-за рассредоточенного населения, характерного для районов Южного Средиземноморья и Персидского залива, для удовлетворения потребностей в питьевой воде в отдаленных деревнях используются относительно небольшие системы. Основными желательными характеристиками таких систем являются низкая стоимость, низкие требования к техническому обслуживанию, простота эксплуатации, а также высокая надежность [9].

Решение об использовании автономной солнечной опреснительной системы, а также выбор наиболее подходящей комбинации зависят от нескольких параметров и в основном зависят от конкретной площадки.

Для солнечных опреснительных систем наиболее важным параметром, касающимся системы электроснабжения, является достаточный солнечный потенциал в выбранном регионе. Другими факторами, которые следует принимать во внимание и которые влияют на окончательную удельную стоимость воды и срок службы станции, являются наличие земли, стоимость земли, а также наличие технического персонала и местного рынка.

Что касается опреснения, необходимо изучить ряд основных параметров. Первый — это оценка общих водных ресурсов. Это должно быть сделано как с точки зрения качества, так и количества (для ресурсов с солоноватой водой). Во внутренних районах солоноватая вода может быть единственным выходом. В этих случаях следует проявлять осторожность при утилизации рассола и отбраковывать их, не загрязняя местные водные ресурсы.

На прибрежных участках обычно имеется морская вода. В этом случае при сбросе солевого раствора в море соблюдаются особые правила.

Процессы дистилляции используются в основном для опреснения морской воды, в то время как мембранные процессы используются для широкого диапазона солености от солоноватой воды до морской воды.

Применение процесса ED является предпочтительным для опреснения солоноватой воды.

Определение качества производимой воды зависит от цели установки, например, от того, используется ли она для питьевых, сельскохозяйственных или промышленных нужд. Процессы дистилляции используются для производства дистиллятной воды, а мембранные процессы — для производства питьевой воды.Однако при дополнительной обработке дистиллятной воды можно также производить питьевую воду; Используя установку обратного осмоса двойного назначения, можно производить воду с очень низкой проводимостью.

С точки зрения энергии, основным источником энергии для опреснительной установки является большой ввод тепла. Как и все термические процессы, дистилляция требует больших затрат энергии (из-за энергии, необходимой для изменения фазы). Кроме того, для перекачки требуется дополнительное электричество (электричество можно производить с помощью фотоэлектрических станций).

С другой стороны, солнечные тепловые системы настолько сильно зависят от излучения (день / ночь), что всегда требуется некоторое аккумулирование тепла. Таким образом, аккумулятор может стать основной подсистемой установки, и принятые стратегии управления приобретают особое значение.

Для испарителей MSF PR увеличивается с повышением температуры, поэтому предпочтительны высокие температуры (до 120 ° C). Это, в свою очередь, увеличивает риск образования накипи и коррозии. Испарители MED в настоящее время работают при более низких температурах (около 70 ° C), и эти опасности уменьшаются.

Наконец, управление такими испарителями должно быть очень точным, особенно уравновешивание вспышки в MSF. Система нестабильна при малых размерах. Это приводит к использованию испарителей среднего и большого размера (производительность в тысячи кубометров в день), которые не совсем соответствуют размерам и производительности, обычно применяемым с возобновляемыми источниками энергии, если только не может быть построено огромное солнечное поле, что, в свою очередь, подразумевает большие грунтовые поверхности. Таким образом, сочетание солнечно-термической дистилляции лучше всего подходит для средних и высоких производственных мощностей.

С другой стороны, RO доступен в большом диапазоне размеров и солености воды. Использование устройств рекуперации энергии может значительно снизить потребность в энергии. Стабильность источника питания важна для срока службы мембраны.

ED доступен также в небольших размерах; однако этот процесс в основном используется для опреснения солоноватой воды из-за зависимости потребления энергии от концентрации питательной воды.

Простота эксплуатации и технического обслуживания, а также автоматизация системы являются серьезной проблемой.

Нелегко найти коммерческую зрелость в солнечных опреснительных установках; однако существует достаточное количество растений, которые могут быть подтверждены путем их исследования.

Удаление номеров частных автономных систем в BGP

В этом документе обсуждается удаление номеров частных автономных систем в BGP.

Требования

Для этого документа нет особых требований.

Используемые компоненты

Этот документ не ограничивается конкретными версиями программного и аппаратного обеспечения.

Условные обозначения

Дополнительные сведения об условных обозначениях в документах см. В разделе «Условные обозначения технических советов Cisco».

Номера частных автономных систем (AS) в диапазоне от 64512 до 65535 используются для сохранения глобально уникальных номеров AS. Глобальные уникальные номера AS (1 — 64511) присваиваются InterNIC. Эти частные номера AS не могут быть переданы в глобальную таблицу протокола пограничного шлюза (BGP), поскольку они не уникальны (расчет наилучшего пути BGP предполагает уникальные номера AS; дополнительную информацию о выборе пути BGP см. В разделе Алгоритм выбора наилучшего пути BGP).По этой причине в программное обеспечение Cisco IOS® версии 10.3 и более поздних версий была добавлена ​​новая функция, которая позволяет удалять частные номера AS из списка AS_PATH до того, как маршруты будут распространены на одноранговый узел BGP.

Обычно клиентские сети и их политики маршрутизации являются расширением соответствующих интернет-провайдеров (ISP). Когда сеть клиента велика, поставщик услуг может назначить номер AS, используя несколько различных методов, чтобы управлять сетью и политиками маршрутизации.

• Один из способов — это постоянное присвоение номера AS в диапазоне от 1 до 64511. Это делается, когда клиентская сеть подключается к двум различным поставщикам услуг Интернета, например, множественная адресация. Эта ситуация требует, чтобы клиентская сеть имела уникальный номер AS, чтобы он мог однозначно распространять свои маршруты BGP на глобальную сеть BGP через двух интернет-провайдеров.

• Второй способ — назначить частный номер AS в диапазоне от 64512 до 65535. Это делается, когда клиентская сеть подключается к одному Интернет-провайдеру (с одним или двумя узлами доступа к одному и тому же Интернет-провайдеру), и намерение состоит в том, чтобы чтобы сохранить номера AS.Не рекомендуется использовать частный номер AS, если вы планируете подключаться к нескольким поставщикам услуг Интернета в будущем.

Когда частный номер AS назначается клиентской сети, обновления BGP из клиентской сети к ISP будут иметь частный номер AS в его списке AS_PATH. Когда интернет-провайдер распространяет свою сетевую информацию в глобальную таблицу BGP (Интернет), он не должен распространять AS_PATH с частным номером AS клиента в Интернет. Чтобы помочь интернет-провайдеру удалить частный номер AS из его списка AS_PATH, используйте команду Cisco IOS remove-private-as .

Чтобы удалить частный номер AS, используйте команду настройки маршрутизатора neighbour x.x.x.x remove-private-as .

Команда настройки соседа x.x.x.x remove-private-as для каждого соседа заставляет BGP отбрасывать частные номера AS. Вы можете настроить эту команду для внешних соседей BGP. Если исходящее обновление содержит последовательность частных номеров AS, эта последовательность отбрасывается.

Применяются следующие условия:

• Это решение можно использовать только с внешними узлами BGP (eBGP).

• Если обновление содержит только частные номера AS в AS_PATH, BGP удаляет эти номера.

• Если AS_PATH включает в себя как частные, так и общедоступные номера AS, BGP не удаляет частные номера AS. Такая ситуация считается ошибкой конфигурации.

• Если AS_PATH содержит номер AS соседнего узла eBGP, BGP не удаляет частный номер AS.

• Если AS_PATH содержит конфедерации, BGP удаляет частные номера AS, только если они идут после части конфедерации AS_PATH.

Пример конфигурации см. В разделе «Пример конфигурации для удаления частных номеров AS в BGP».

Окончательное руководство по автономным системам

Определение

Автономная система — это система, которая может достигать заданного набора целей в изменяющейся среде — собирать информацию об окружающей среде и работать в течение длительного периода времени без контроля или вмешательства человека. Беспилотные автомобили и автономные мобильные роботы (AMR), используемые на складах, являются двумя типичными примерами.

Автономность требует, чтобы система могла выполнять следующие действия:

• Анализировать среду и отслеживать текущее состояние и местоположение системы
• Воспринимать и понимать разрозненные источники данных
• Определить, какие действия предпринять дальше, и составить план
• Действуйте только тогда, когда это безопасно, избегая ситуаций, которые представляют риск для безопасности человека, собственности или самой автономной системы

Автономные и полуавтономные системы

Подавляющее большинство существующих систем, известных как автономные, являются полуавтономный, а не полностью автономный.Автомобили с системами поддержки водителя, такими как система помощи при удержании полосы движения и усовершенствованные тормозные системы, являются полуавтономными, как и системы роботизированной хирургии, роботы-пылесосы и большинство беспилотных летательных аппаратов (БПЛА и дроны). Большинство полностью автономных систем, таких как автомобили без водителя, остаются слишком дорогостоящими, требуют больших объемов данных, потребляют много энергии или небезопасны для широкого общественного использования.

Достигнут значительный прогресс. Электромобили, автономные системы восприятия транспортных средств и платформы подключенных автомобилей преодолели «пик завышенных ожиданий» Gartner и прошли «впадину разочарования».«Эти системы достигли« вершины просветления »в цикле« подключенных транспортных средств »и« умной мобильности ».

Примеры автономных систем

Автономные транспортные средства, автономные роботы, автономные складские и заводские системы и автономные дроны являются некоторыми примерами автономных систем.

Видео первого сеанса связи в Канаде между автономным транспортным средством и живой городской инфраструктурой на дороге общего пользования.

Автономные транспортные средства

Как легковые, так и коммерческие транспортные средства обладают автономными возможностями, которые существуют в континууме, как определено шесть уровней автоматизации вождения, определенных SAE J3016:

• Уровни 0–2 SAE, обеспечивают поддержку водителя, начиная от предупреждений и мгновенной помощи и заканчивая функциями предотвращения столкновения, такими как автономное рулевое управление, поддержка торможения и ускорения.
• Уровни 3–5 SAE обеспечивают полностью автоматизированные функции вождения, которые варьируются от тех, которые подходят для ограниченных условий или приложений, таких как пробка или местная служба такси, до тех, которые позволяют беспилотному транспортному средству доставлять пассажиров или груз в любом месте и в любых условиях. .

Многие широко используемые легковые автомобили соответствуют SAE J3016 Level 0, 1 или 2.

Для обеспечения типов автономности, описанных в SAE J3016, легковые автомобили были преобразованы в полуавтономные подключенные мобильные устройства на колесах.Автомобили будущего будут иметь еще больше автономных функций и в конечном итоге станут полностью автономными. Во многих городах автономные автомобили и шаттлы, такие как полностью электрический шаттл без ручного управления в Сан-Франциско, являются обычным явлением.

Что касается автономных коммерческих транспортных средств, то, хотя грузовиков ежегодно строится гораздо меньше, чем автомобилей, автономные грузовики радикально изменят грузовой транспорт и использование дорог общего пользования. Один из способов автономного грузового транспорта известен как автопоезд.При этом человек-водитель в тягаче с прицепом возглавляет колонну автономных тягачей с прицепом, что позволяет одному водителю перемещать гораздо больше груза. Автоматизированные системы поддержки водителя позволяют каждому автономному грузовику следовать за грузовиком, идущим впереди, на заданном расстоянии. Водитель-человек может высадить грузовики-последователи и забрать новые в заранее определенных местах вдоль шоссе.

К автономным транспортным средствам также относятся автомобили, использующие рельсы. Автономные грузовые поезда будут перемещать грузы с человеком в качестве наблюдателя.

Автономные роботы

Автономные роботы варьируются от простых роботов-уборщиков пола до сложных автономных вертолетов. Otto, первый автономный снегоочиститель в Северной Америке, держит взлетно-посадочные полосы в аэропорту Манитобы.

Автономный снегоочиститель Отто — это автономный робот, разработанный в L-SPARK, крупнейшем в Канаде ускорителе SaaS, с советами и программным обеспечением от BlackBerry QNX.

В сельском хозяйстве идея полностью автономных тракторов привлекала поколения фермеров, но в настоящее время, как и в случае с снегоочистителем, автономные тракторы требуют контролирующего оператора.Другие автономные системы, используемые на фермах, включают автоматические доильные аппараты и роботы для сбора клубники.

В области медицины роботы помогают хирургам выполнять высокоточные процедуры, такие как коронарное шунтирование и удаление рака.

Автономные системы высокой мобильности, такие как четвероногие шагающие роботы, могут преодолевать препятствия, получать доступ к труднодоступным местам и выполнять задачи, опасные для человека. Примеры включают промышленные инспекционные роботы и роботы-спасатели.

Автономные складские и производственные системы

От систем сортировки почты до конвейеров материалов и сборочных роботов — разнообразные автономные системы выполняют рутинные и повторяющиеся задачи, позволяя более эффективно использовать человеческий труд. Один из типов складских автономных систем — это роботизированный вилочный погрузчик, который перемещает товары по автоматизированному распределительному центру гиганта электронной коммерции. На сборочных линиях автономные заводские роботы-манипуляторы выполняют множество тяжелых и точных задач, таких как дуговая сварка, окраска, отделка и упаковка.