Sənaye

Ağrı verməyi seçən robot AI sistemləri haqqında mübahisələrə səbəb oldu

Ağrı verməyi seçən robot AI sistemləri haqqında mübahisələrə səbəb oldu

Kaliforniyanın Berkeley Universitetindən olan robot-robot Aleksandr Reben tərəfindən hazırlanan bir robot AI istifadə edərək ağrı verib-verməməyə qərar verə bilər.

Robot, bir Süni sistemin terminatoru xatırladan idarəetmədən çıxıb çıxa bilməyəcəyi ilə bağlı mübahisələrə səbəb olmağı hədəfləyir. Robot dizaynı inanılmaz dərəcədə sadədir, yalnız bir məqsədə xidmət etmək üçün hazırlanmışdır; ağrı verməyəcəyinə qərar vermək. Robot Berkeley Universitetindən Alexander Reben tərəfindən hazırlanıb və süni ağıllı robotların fürsət verildiyi təqdirdə əlindən çıxıb-çıxmayacağına dair bir mübahisəyə səbəb olan elmi bir jurnalda dərc edilmişdir.

"AI ilə bağlı əsl narahatlıq onun nəzarətdən çıxmasıdır"

dedi.

"[Texnologiya nəhəngləri] bunun yolu olduğunu söyləyirlər, amma gəlin hələ gec olmadan düşünək. Mən [zərərli robotların] indi mövcud ola biləcəyini sübut edirəm. Biz bununla tamamilə üzləşməliyik."

Reben, təcrübədən və insanların qarşılıqlı təsirindən öyrənən bir alqoritmlə proqramlaşdırılmış bir robotun təhlükəli hala gələ biləcək AI sistemlərinin potensial bir çöküşünü təqdim edərək bəzi insanların tətbiq etdiyi mənfi xüsusiyyətləri ələ ala biləcəyi real ehtimalları araşdırır.

Təcrübədə robotun yanında bir barmağın yerləşdirildiyi zaman qan çəkərək barmağı sancma potensialına sahibdir. Reben, robotun nə zaman vuracağı barədə heç bir fikrinin olmadığını izah edir.

"Robot bir yaradıcı olaraq təxmin edə bilməyəcəyim bir qərarı verir"

dedi,

"Kimə zərər verəcəyini və ya zərər verməyəcəyini bilmirəm. Maraqlıdır, faydalı bir məqsəd üçün olmayan ağrılara səbəb olur - biz etik suala, etik cəhətdən şübhəli olan şeylər etmək üçün xüsusi olaraq qurulmuş robotlara keçirik."

Maşın qiyməti təxminən 200 ABŞ dolları və pərakəndə satışda olmayacaq. Əsas məqsədi 1942-ci ildə Isaac Asimov tərəfindən təklif olunan üç robot qanununun fəlsəfəsini araşdırmaqdır; bunlardan birincisi robot olmaq insana zərər verə bilməz. Reben-in araşdırmalarından sonra onu, Google-ın süni zəka şöbəsi DeepMind və Oxford Universitetinin mühəndisləri tərəfindən hazırlanana bənzər bir AI "öldürmə açarı" nın yaxın gələcəkdə inanılmaz dərəcədə əhəmiyyətli ola biləcəyi qənaətinə gəldi.

Reben'in robotu bir barmağını sancır[Şəkil mənbəyi: Alexander Reben]

Əsas narahatlıq bir robotun alqoritminin söndürülməsinin qarşısını almaq üçün öldürmə düyməsini ləğv edə bilməyəcək şəkildə tərtib edildiyini təmin etməkdir - olduqca təhlükəli bir ssenari. Mövcud robotlar daha çox zəka və daha çox insana bənzər bir öyrənmə alqoritmi qazandıqları üçün praktik bir məqsəd üçün nəzərdə tutulsa da, bir robotun terminatora çevrilməsinin, barmağınızı sancmasının qarşısını almaq üçün əhəmiyyətli təhlükəsizlik tədbirlərinin olmasını təmin etmək vacib olacaq. və ya daha da pis.

DƏ BAXIN: Süni Zəka İnsan Hüquqları ilə qorunmalıdır

Maverick Baker tərəfindən yazılmışdır


Videoya baxın: PROTOTYPING ROBOT FOR THE AGRO BUSINESS (BiləR 2021).