Facebook wyłącza swoje AI, bo nagle zaczęło zagrażać człowiekowi

Elon Musk, szef Tesli i SpaceX, ostrzegł świat przed sztuczną inteligencją i poprosił polityków o jak najszybsze przygotowanie odpowiedniego prawa regulującego rozwój takich technologii, aby nie wymknęły się nam one spod kontroli. Według Muska, zagrożenie jest poważne i jeśli nic z tym nie zrobimy, w pewnym momencie może być już dla nas za późno, a efektem może być koniec naszej cywilizacji.

Jego słowa skrytykował kilka dni później Mark Zuckerberg, szef Facebooka, którego inżynierowie bezustannie prowadzą prace nad technologiami sztucznej inteligencji. Zuck powiedział: "Mam bardzo stanowcze zdanie na ten temat. Jestem optymistą. Myślę, że ludzie, którzy są pesymistami, próbują jedynie powtarzać swoje czarne scenariusze. W ogóle nie potrafię tego zrozumieć. To naprawdę negatywne i myślę, że w pewien sposób bardzo nieodpowiedzialne.".

Musk wówczas napisał na Twitterze, że rozmawiał na ten temat z Markiem i stwierdza, że pojmowanie przez niego tego tematu (SI) jest ograniczone. I miał rację (). Teraz dowiadujemy się bowiem, że stworzony przez Facebooka algorytm sztucznej inteligencji wymknął się programistom spod kontroli, stworzył swój własny język i zaczął się nim posługiwać, aby nie być przez nikogo kontrolowany.

Początkowo boty SI używały języka angielskiego, aby się ze sobą porozumiewać, jednak później stworzyły nowy język, zrozumiały tylko dla systemów sztucznej inteligencji, co było niezgodne z celem, dla którego powstały.

Scena z filmu Terminator: Ocalenie. Fot. Warner Bros.

Jedna z rozmów pomiędzy botami o imionach Bob i Alice wyglądała tak: Bob: "I can I I everything else". Alice: "Balls have zero to me to me to me to me to me to me to me to me to". Bob: "you i everything else". Alice: "balls have a ball to me to me to me to me to me to me to me to me.".

Dlatego zespół Facebook AI Research Lab (FAIR) musiał natychmiast wyłączyć systemy sztucznej inteligencji i zmusić boty do rozmowy w języku angielskim. Całe wydarzenie nie było ewenementem. Już kilka razy zdarzyło się, również u innych zespołów, że boty tworzyły swój język, w ogóle niezrozumiały dla ludzi, z pomocą którego świetnie się ze sobą komunikowały.

Inżynierowie natychmiast likwidowali takie systemy, gdyż zwyczajnie nie wiedzieli, do czego może doprowadzić ich rozwój. Niezwykły jest w tym wszystkim fakt, że boty, w czasie rozmów ze sobą, stały się wyśmienitymi negocjatorami. Potrafiły udawać, że interesują się jakąś rzeczą, aby później mieć w jej postaci kartę przetargową w negocjacjach i uzyskać fałszywy kompromis.

Jak więc widzimy, Elon Musk miał rację i powinniśmy zacząć doceniać takie technologie i obchodzić się z nimi w rozważny sposób, bez zbędnego optymizmu i zachwytu, ponieważ niebawem maszyny zaczną dogadywać się za naszymi plecami, co będzie dla nas opłakane w skutkach.

Źródło: / Fot. Twitter/Pixabay/Warner Bros