Експерти пропонують оснастити роботів «етичним чорним ящиком»
Source:Вчений Алан Уінфілд, професор робоэтики Університету Західної Англії у Брістолі, і Маріана Джиротка, професор антропоцентричного програмування Оксфордського університету, вважають, що роботи повинні бути оснащені так званим «етичним чорним ящиком». Він стане еквівалентом записуючого пристрою, що використовується в авіації для з'ясування всіх послідовних причин, які змушують пілотів приймати ті чи інші дії у випадку надзвичайних ситуацій, що дозволяє слідчим простежити за цими діями і з'ясувати причини катастрофи.
Так як роботи все частіше стали залишати індустріальні фабрики і лабораторії і все частіше починають взаємодіяти з людьми, то і важливість підвищених заходів безпеки у даному випадку може бути повністю виправдана.
Вінфілд і Джиротка вважають, що компанії, що займаються виробництвом роботів, повинні взяти приклад, запропонований авіаційної індустрією, яка зобов'язана своєю безпеки не лише технологіям і надійної збірці, але і суворому дотриманню протоколів безпеки, а також серйозного рівня розслідувань авіаційних подій. Саме цією індустрією були запропоновані чорні ящики і кабіни пілота, оснащені звукозаписувальними пристроями, які у разі інцидентів дозволяють людям, які займаються дослідженням авіакатастроф, знайти справжню причину цих подій і винести з цього життєво важливі уроки для підвищення безпеки та запобігання подібних випадків у майбутньому.
«Серйозні справи вимагають серйозних розслідувань. Але що ви будете робити, якщо слідчий виявить, що в момент інциденту з роботом ніяких внутрішніх записів подій не велося? В такому разі сказати, що ж відбулося насправді, буде практично неможливо», — прокоментувала Вінфілд виданню The Guardian.
Використовуються в контексті робототехніки етичні чорні ящики будуть записувати всі рішення, ланцюг причинно-наслідкових зв'язків прийняття цих рішень, всі рухи і дані з датчиків свого носія. Наявність чорного ящика із записаною інформацією також допоможе роботам у поясненні їх дій тією мовою, який користувачі зможуть зрозуміти, що тільки сильніше зміцнить рівень взаємодії між людиною і машиною і поліпшить цей користувальницький досвід.
Вінфілд і Джиротка не єдині експерти, стурбовані етичними питаннями навколо штучного інтелекту (ШІ). Міссі Каммінгс, фахівець з безпілотним літальним апаратам і директор Лабораторії по дослідженню питань взаємодії людини і автоматизаційних систем при Університеті Дьюка в Північній Кароліні (США), відзначила в березневому інтерв'ю виданню BBC, що нагляд за ІІ є однією з найважливіших проблем, для якої досі не знайдено рішення.
«На цей момент у нас немає чітко виведених інструкцій. А без введення індустріальних стандартів для розробки і випробування подібних систем буде складно вивести ці технології на широкий рівень», — прокоментувала Каммінгс.
У вересні 2016 року такі компанії, як Amazon, Facebook, Google, IBM і Microsoft, утворили союз «Партнерство з штучного інтелекту на благо людей і суспільства» (Partnership on Artificial Intelligence to Benefit People and Society). Основними завданнями цієї організації є контроль за тим, щоб розробка ІІ велася чесно, відкрито і з урахуванням етичних норм. У січні цього року до організації приєдналася компанія Apple. Після цього багато інші технологічні компанії теж висловили таке бажання і приєдналися до союзу.
У той же час аутріч-благодійна організація Future of Life Institute (FLI) створила Asilomar AI Principles – базовий звід законів і етичних норм для робототехніки, розроблений для того, щоб бути впевненим в благонадійності ІІ перед майбутнім людства. Засновниками FLI виступили такі компанії, організації та інститути, як DeepMind і MIT (Массачусетський технологічний інститут), а в її науковий консультативна рада входять такі особистості, як Стівен Хокінг, Френк Вільчек, Ілон Маск, Нік Бостром і навіть Морган Фрімен, знаменитий американський актор.
загалом, якщо погодитися з думкою, що попереджувальні ідеї в поєднанні з старанною роботою найгостріших умів індустрії є найкращим захистом проти будь-яких імовірних проблем, пов'язаних з ІІ в майбутньому, то можна сказати, що людство вже знаходиться під надійним захистом.
Більше:
Моральний кодекс робота: чи можливо таке?
У неспокійний і , коли не все працює, як треба, а що-то взагалі докорінно змінюється, найчастіше, залишається тільки особистий моральний кодекс, який подібно компаса вказує шлях. Але що породжує моральні цінності для людини? Соціум, тепло близьких, л...
Як влаштований найскладніший робот на Землі?
Коли мова заходить про роботів, вже, здається, ніхто не уявляє собі кадри з «Термінатора». навчилися використовувати роботів на благо суспільства, і зараз під цим визначенням ховаються не тільки людиноподібні машини, але також і ті, які просто здатні...
Процес роботизації у всьому світі вже запущений
На днях Ілон Маск розкрив таємницю тисячоліття камери над дзеркалом заднього виду автомобіля Tesla Model 3. І хоча головне призначення будь-якої камери знімати те, що відбувається навколо, з'ясувалися деякі подробиці. Отже, камера буде стежити за сал...
Новини
Розроблені вміють рости гнучкі роботи
Рослини здатні з часом не тільки збільшуватися, але і вміють долати досить складні перешкоди. Не тільки дерева, але і звичайні квіти або трава частенько пробивається навіть крізь бетон, проростаючи і звиваючись по тріщинах і знахо...
Графеновий робот-павук, якому для пересування не потрібна електроенергія
Будь-які роботи потребують джерелі енергії для своєї роботи. Здавалося б, це твердження — практично аксіома. Але насправді вчені іноді створюють такі механізми, принцип роботи яких вникнути не так-то просто. Приміром, нещода...
У Вашингтоні робот-охоронець «покінчив з собою», впавши в фонтан
останнім часом роботи все частіше заступають на службу в різні інстанції. У США, наприклад, роботів-охоронців дуже часто використовують для патрулювання торгових центрів. Одна з найпопулярніших моделей для цього під назвою Knights...
Робот-паркурщик Salto навчився маневрувати в повітрі
У грудні 2016 року про робота-паркурщике Salto, який здатний пересуватися, підстрибуючи на значну для свого зростання висоту. І ось, через півроку після виходу, фахівці з Biomimetic Millisystems Lab Каліфорнійського університету п...
У Тамбові приступив до роботи робот-сміттяр
Можна з великою часткою ймовірності сказати, що в майбутньому роботи замінять людини на багатьох посадах. Наприклад, складальні лінії різних фабрик вже практично повністю автоматизовані, в наступному році . А ось в Тамбові, завдяк...
В наступному році бургери для американців будуть робити роботи
Перевертання смажених котлет і приготування бургерів з нечисленних інгредієнтів — досить нудне і безрадісне заняття. Не дивно, що ті, хто хоча б рік відстояв біля плити на посаді кухаря, відповідального за цей вид страв, без...
Valkyrie: прямоходяча робот для колонізації Марса
Конкурс від американського агентства DARPA під назвою DARPA Robotics Challenge проводиться вже не перший рік, і розробки, представлені в рамках цього заходу, часто використовуються в різних сферах науки. Наприклад, показаний кільк...
#відео | Мешканець Польщі побудував самоврядного робота з картоплини
З шкільного курсу фізики всім нам добре відомо, що деякі овочі і фрукти (наприклад, картопля або цитрусові) за допомогою нехитрих маніпуляцій з електродами можна перетворити на справжні джерела живлення. Але раз фрукти та овочі є ...
Робот-садівник позбавить людей від нудної прополки
Робогрядку ми вже — вона сама вміє садити, поливати та доглядати за рослинами, висмикуючи бур'яни і підтримуючи таким чином сад або город в порядку. Але це винахід обходиться досить дорого. При ціні в кілька тисяч доларів во...
Гігантський робот-черв'як допоможе з прокладкою труб і кабелів
Інженери Мадридського університету концепт робота, здатного копати тунелі для прокладки газових та водяних труб, а також різних кабелів. Кожен раз рити траншеї під труби і дроти — досить утомливо і довго, тому розробники вир...
Робот-вертоліт від компанії Airbus здійснив перший самостійний політ
З великою часткою ймовірності можна сказати, що за безпілотними транспортними засобами майбутнє. І якщо автомобілі без водія вже цілком успішно курсують дорогами, то ось пасажирські літальні апарати перебувають лише на початку сво...
DeployBot — перший развертываемый ходячий м'який робот
Робототехніка є, мабуть, однією з найбільш бурхливо розвиваються галузей сучасних високих технологій. Саме у виробництві роботів використовуються самі передові розробки. І нещодавно фахівці з Південної Кореї створили першого розго...
Четверорукий робот-музикант, який грає музику власного виробництва
Все частіше роботи «освоюють» професії, в освоєнні яких, здавалося б, немає потреби. І не так давно дослідники з Технологічного інституту Джорджії представили нову модель робота-музиканта з чотирма руками. Найцікавіше в ...
Робот-субмарина Boeing Echo Voyager вперше вийшла у відкрите море
Роботизована техніка все більше проникає в наше життя і прагне замінити техніку «звичайну». І якщо роботами-автомобілями і літаками вже нікого не здивуєш, то ось глибоководна підводний човен виглядає дуже цікаво. Тим біл...
Коли роботи і ІІ заслужать людських прав?
Такі фільми і телесеріали, як «той, що Біжить по лезу», «Люди» та «Світ Дикого заходу», де нам показують високотехнологічних роботів, які не мають ніяких прав, не можуть не турбувати людей з совістю. Адже вони не тільки показують ...
Китайський робот спробує вступити в коледж
Новинне агентство Сіньхуа повідомляє, що розроблений в Китаї робот AI-MATHS посилено готується до вступних іспитів і вже днями поступити в коледж. він Створений компанією AI Chengdu Zhunxingyunxue Technology, яка спеціалізується...
Представлена система, яка дозволяє роботам навчати інших роботів
Група дослідників з Массачусетського технологічного інституту представила систему навчання для роботів під назвою C-LEARN. Нова розробка дозволяє роботам не тільки здобувати нові навички, але і передавати накопичений досвід іншим ...
Роботизований сокіл приступив до роботи в одному з аеропортів Канади
Охорона деяких повітряних зон від пролітаючих птахів не таке вже й марне заняття, як може здатися. Наприклад, для безпеки зльоту і посадки літаків в районі аеропортів використовують звуки спеціальної тональності і навіть лазерні у...
Інтелект людини обмежений, тому нам потрібен штучний інтелект
Деякі люди приймають препарат леводопа кожен день по три рази. Приймають його, тому що їх мозок не виробляє достатньої кількості дофаміну. Без нього їх руки і ноги трясуться, а тіло важко змусити робити те, що хочеш. Так проявляєт...
Розпочато будівництво першого в світі вантажного судна-робота
Нещодавно компанія Kongsberg Maritime з Норвегії заявила про початок робіт над першим у світі автоматизованим вантажним судном за замовленням корпорації YARA Porsgrunn. Судно буде використовуватися для автоматичного транспортуванн...
Примітка (0)
Ця стаття не має коментарів, будьте першим!