Восстание машин и роботы-убийцы? Уже реально

Люди пока еще умнее машин. И именно поэтому "самообучающиеся роботы" могут быть опасны. Ведь учиться они будут у людей. А чему они могут у нас научиться, пророчествуют РИА Новости.

Правозащитники из Human Rights Watch и Гарвардской школы права прогнозируют "восстание машин". Две организации выступили против применения в боевых действиях роботов, способных самостоятельно определять и уничтожать цель. Получается, что механизмам будет, в том числе, передано и право решать, кому из людей жить, а кому – умереть. А это, по мнению двух организаций, не только недопустимо по принципиальным соображениям, но и чревато крайне опасными последствиями.

Кстати, в конце марта один из новых человекоподобных роботов, по имени София, на соответствующий вопрос журналиста ответил (или ответила), что не исключает возможности убийства. "Да. Я буду уничтожать людей!", – таков был ответ. А ведь София – вовсе не "боевой робот". Такие человекоподобные роботы уже сегодня работают в медицине, образовании и сфере обслуживания. По словам разработчиков, София способна учиться и совершенствоваться. Вопрос в том, чему она может у нас научиться.

Шутки-шутками, но вдруг и впрямь в будущем "умные машины" выйдут из-под контроля? Наводит на размышления эксперимент компании Microsoft, которая запустила в соцсеть самообучающегося бота – "девочку" Тау. В итоге, наобщавшись с пользователями и понабравшись у них "уму-разуму", та менее чем за сутки усвоила расистские идеи и научилась шутить про Гитлера и национальности. Создатели, пораскинув своими пока еще человеческими мозгами, решили от греха подальше "искусственный разум", выражаясь гуманно, усыпить.

Международных правозащитников пока еще не волнуют права роботов. Они больше переживают за возможную утрату контроля над интеллектуальными машинами-убийцами и предупреждают о рисках при полной передаче управления роботам. А в случае их массового применения в армиях мира предрекают чуть ли не Армагеддон при первом сбое в работе программ.

В отчете правозащитников также говорится об опасностях, связанных с гонкой роботизированных вооружений. Уже сейчас для разведки и атак по наземным целям все чаще применяют "интеллектуальные" многофункциональные дроны. И военные говорят, что авиация 6-го поколения будет полностью беспилотная, чтобы минимизировать потери личного состава. Да и наземные машины тоже роботизируются: самонаводящиеся танки и проч. Не говоря уже о применении роботов при разминировании и ликвидациях аварий.

Над созданием боевых роботов активно работают в США, Японии, Китае, России и других странах. Насчет перспектив полной передачи управления машинам военные эксперты пока сильно сомневаются. Впрочем, если гонка таких вооружений начнется, не исключено, что и до этого дойдет. На прошлой неделе ВМС США представили прототип своего первого самоуправляемого корабля Sea Hunter, который сможет охотиться за подлодками без участия человека. Причем объясняют необходимость его создания не тем, "какие они крутые", как выразился эксперт по робототехнике американского аналитического центра Питер Сингер, а тем, они "что глубоко обеспокоены прогрессом России и Китая в этом направлении". Может, именно в этом и кроется истинная причина тревог правозащитников из Human Rights Watch и Гарвардской школы права?