Umjetna inteligencija – najveći uspjeh ili najveća pogreška u povijesti čovječanstva?

Tomislav Portada (Zagreb, Hrvatska), 5. Svibanj 2014.

rubrika: Osvrti

U intrigantnom članku naslovljenom Transcendence looks at the implications of artificial intelligence – but are we taking AI seriously enough?, vodeći znanstvenici Stephen Hawking, Stuart Russell, Max Tegmark i Frank Wilczek preispituju dobrobiti i rizike koje čovječanstvu donosi daljnji razvoj umjetne inteligencije.

29 komentara… pročitajte ih ispod ili dodajte jedan

#1 Registriraj se Podatak dostupan članovima Connect-a Svibanj 12, 2014 u 23:59 Thumb up 12 Thumb down 0

Cini mi se da su gore spomenuti Stephen Hawking i fizicar Roger Penrose imali dosta ostru diskusiju u vezi toga dali umjetna inteliencija moze u svemu dostici ljudsku inteligenciju. Za razliku od S. Hawkinga R. Penrose je bio izrazito skeptican u tom pogledu.
U vezi toga, jedna moja osobna primjedba. Poznato je da danas vrhunski kompjuterski programi igraju sah jednako tako dobro ili cak bolje od svjetskog prvaka u sahu. Medjutim najbolji kompjuterski programi nisu ni izdaleka tako uspjesni u istocnjackoj igri go. U toj igri ti programi postizu za sada samo osrednje rezultate. Prosjecan igrac goa moze ih tuci. Postoje li oblici inteligencije koje je lakse i oni koje je puno teze reproducirati umjetnom inteligencijom? Postoje li takovi oblici ljudske inteligencije koje umjetna inteligencija nikada nece moci reproducirati (kao sto to tvrdi R. Penrose)?

#2 Registriraj se Podatak dostupan članovima Connect-a Svibanj 15, 2014 u 14:08 Thumb up 6 Thumb down 2

Svojedobno sam iskoristio tu problematiku kao jednu od pod-tema u svojoj SF pričici, no nisam siguran da je SF prikladna tematika za ovaj portal… :-)

#3 Registriraj se Podatak dostupan članovima Connect-a Svibanj 16, 2014 u 13:55 Thumb up 2 Thumb down 5

Na #0 – #2

Gotovo je svejedno hoće li umjetna inteligencija dostići ljjudsku jer nam se u svakom slučaju crno piše. Na svijetu je trenutačno 7 milijardi ljudi i svake godine se taj broj povećava za 62 milijuna. Nije teško izračunati koliko će nas biti na kraju stoljeća – ako se ne varam preko 15 milijardi. Gdje je tome kraj i koliko ljudi može Zemlja izdržati? Da ne govorim o uništavanju zemaljskih resursa i sve većem zagađenju svake vrste. Šokantno jje pogledati okrutni crtić na sljedećem URL-u:


Što u njemu nije točno? Možda njegov kraj?

#4 Registriraj se Podatak dostupan članovima Connect-a Svibanj 16, 2014 u 13:55 Thumb up 2 Thumb down 1
#5 Registriraj se Podatak dostupan članovima Connect-a Svibanj 16, 2014 u 14:27 Thumb up 5 Thumb down 1

Na #3:

Na svijetu je trenutačno 7 milijardi ljudi i svake godine se taj broj povećava za 62 milijuna. Nije teško izračunati koliko će nas biti na kraju stoljeća – ako se ne varam preko 15 milijardi. Gdje je tome kraj i koliko ljudi može Zemlja izdržati?

https://www.ted.com/talks/hans_rosling_on_global_population_growth
http://www.gapminder.org/videos/dont-panic-the-facts-about-population/#.U3X_4I0_tFA

#6 Registriraj se Podatak dostupan članovima Connect-a Srpanj 7, 2014 u 15:52 Thumb up 2 Thumb down 3
#7 Registriraj se Podatak dostupan članovima Connect-a Srpanj 9, 2014 u 13:32 Thumb up 9 Thumb down 0

Na #1
Ispricavam se no offtopic komentaru no zelio bih ispraviti jednu tvrdnju koja se cesto susrece, a vise nije potpuno istinita:
U zadnje vrijeme Go programi postali su mnogo jaci na originalnoj velicini Go ploce (19×19) dok su na manjoj (9×9) vec prestigli ljudske igrace, lijep komentar toga moze se naci na: http://spectrum.ieee.org/robotics/artificial-intelligence/ais-have-mastered-chess-will-go-be-next
Veliki napredak ostvaren je u zadnjih desetak godina otkad su uvedeni Monte Carlo algoritmi.

#8 Registriraj se Podatak dostupan članovima Connect-a Listopad 28, 2014 u 21:38 Thumb up 4 Thumb down 3
#9 Registriraj se Podatak dostupan članovima Connect-a Prosinac 2, 2014 u 22:44 Thumb up 3 Thumb down 3

“Umjetna inteligencija mogla bi dovesti do izumiranja ljudske rase” i “Strojevi koji mogu razmišljati predstavljaju prijetnju našem postojanju, a razvoj potpune umjetne inteligencije mogao bi značiti kraj čovječanstva”, ponovno upozorava Stephen Hawking, a prenosi Jutarnji list (poveznica).

#10 Registriraj se Podatak dostupan članovima Connect-a Prosinac 3, 2014 u 23:17 Thumb up 3 Thumb down 1

Ja, naprotiv, smatram da bi izum umjetne inteligencije bio daleko od prijetnje uništenjem čovječanstva. Moglo bi ga to otkriće, uistinu, na zanimljive načine promjeniti, ali ne i uništiti. Mislim da umjetnoj inteligenciji dajemo previše odlika nas samih, u našoj beskonačnoj sebeljubivosti, iako inteligencija nimalo ne mora imati odlike slične našim.

#11 Registriraj se Podatak dostupan članovima Connect-a Prosinac 4, 2014 u 00:07 Thumb up 1 Thumb down 2

Na #10:

Kamo sreće da sam u krivu, no ja sam prilično zabrinut oko toga pitanja. Scenarij kojeg se pribojavam izgleda otprilike ovako:

If research into Strong AI produced sufficiently intelligent software, it might be able to reprogram and improve itself. The improved software would be even better at improving itself, leading to recursive self-improvement. The new intelligence could thus increase exponentially and dramatically surpass humans. Science fiction writer Vernor Vinge named this scenario “singularity”. Technological singularity is when accelerating progress in technologies will cause a runaway effect wherein artificial intelligence will exceed human intellectual capacity and control, thus radically changing or even ending civilization. Because the capabilities of such an intelligence may be impossible to comprehend, the technological singularity is an occurrence beyond which events are unpredictable or even unfathomable.

Ray Kurzweil has used Moore’s law (which describes the relentless exponential improvement in digital technology) to calculate that desktop computers will have the same processing power as human brains by the year 2029, and predicts that the singularity will occur in 2045. (izvor)

Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an ‘intelligence explosion,’ and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control. (izvor)

#12 Registriraj se Podatak dostupan članovima Connect-a Prosinac 5, 2014 u 06:52 Thumb up 7 Thumb down 0

Na #11:
If research into Strong AI produced sufficiently intelligent software …”

Ovaj “if” je vrlo velika stvar. Naime snaga računala će i dalje rasti, ali to ne znači da ćemo imati puno bolji AI. Ovo područje je još uvijek daleko od toga i stvarno je dobro pitanje da li ćemo ikad napraviti nešto što bi se moglo smatrati snažnom umjetnom inteligencijom. Mislim da nema osobitog smisla razbijati glavu s time da li ćemo napraviti superinteligentni AI dok je realno upitno da li uopće možemo napraviti AI koje uopće pokazuje elemente opće inteligencije.

To da ćemo 2045. postići singularitet mi se ne čini kao plauzibilno predviđanje. Možda da danas imamo razvijen AI s općom inteligencijom, ali to nemamo. Imamo niz zadataka gdje se računala mogu ponašati autonomno i/ili bolje od ljudi, no to je zato što su to vrlo uska područja gdje su razvijeni algoritmi dovoljno uspješni. Spojiti to sve zajedno u AI koji bi pokazivao razinu IQ osobe s teškom retardacijom bi bio nevjerojatan uspjeh i bit ćemo sretni ako to bude postojalo do 2045.

#13 Registriraj se Podatak dostupan članovima Connect-a Prosinac 6, 2014 u 00:58 Thumb up 3 Thumb down 4

#0 Objasnite po kojem kriteriju Maxa Tegmarka, smatrate vodećim zannstvenikom. Ja znam da je na tulumima gdje je 99% ljudi u pripitom stanju piopularno bulazniti o tome kako je svaka struktura u matematici realizirana u fizikalnom svijetu i davati slićne utopističke scenarije za utopističke bajke, ali dok to smeće za Hollywoodske filmove počnu konzumirati ljudi koji donekle znaju što je zannost, pa su čak i čuli za neke pricnipe matematike, to me jako zabrinjava,

#14 Registriraj se Podatak dostupan članovima Connect-a Prosinac 6, 2014 u 10:51 Thumb up 2 Thumb down 2

Na #13:

Objasnite po kojem kriteriju Maxa Tegmarka, smatrate vodećim zannstvenikom.

Kada sam naišao na članak, jedna od stvari koju sam napravio prije nego što sam ga odlučio prenijeti na Connect bila je brzinska provjera vjerodostojnosti ljudi koji takve smjele i potencijalno kontroverzne tvrdnje iznose. To sam učinio upravo zato da mi se ne dogodi da prenesem bulažnjenja nekakvih lokalnih mišaka, plečka ili osmanagića.

Max Tegmark je profesor na MIT-u. Letimičnim pregledom nisam naišao na informaciju da vezano uz njegov rad postoji neka ozbiljnija znanstvena kontroverza (moguće je da mi je to promaklo). S druge strane, u ovom konkretnom slučaju istupio je zajedno s najpoznatijim živućim znanstvenikom Hawkingom, nobelovcem Wilczekom i računalnim stručnjakom Russelom. Vjerodostojnost te trojice, čini se, nije Vam sporna. Mislim da u tom kontekstu nije bilo pogrešno dotičnu četvoricu zajedno nazvati vodećim znanstvenicima.

#15 Registriraj se Podatak dostupan članovima Connect-a Prosinac 6, 2014 u 20:21 Thumb up 5 Thumb down 3

Jedno je biti dobar znanstvenik u uskoj branši i velikim kolaboracijama (i vrlo inteligentan i dovitljiv čovjek), a drugo vodeći svjetski znanstvenik sa zdravim balansom za opća pitanja (koji bi dakle bio usporediv s Wilczekom i ostalima s liste, ne samo kao frend i kolega). A tip je postao šire (van stručne branše) razvikan i uticajan, ne zbog svojih pravih zasluga u kozmologiji, nego zbog netestabilnog (dakle protivnom principima što je “realno” u modernoj fizici) spekulacijskog sustava u kojem NEMA razlike izmedju matematike i fizike. Ako je nešto konzistentno, ono postoji, a ako je dovoljno kompleksno da modelira svijest onda je i samosvjesno. Ako napravite konzistentni matematički model u kojem postoje zmajevi, po Tegmarku ste dokazali par excellence da postoji paralelni multiverz u kojem oni ZAISTA postoje. Pa, ako to nije za Mišaka ili pijani tulum (i u najboljem slučaju za esej na philosophy 101)…onda vam dajem za pravo. By the way, mislim da je svakom teorijskom fizičaru slična misao bila došla na pamet desetine puta u karijeri, ali nedeš onda to razrađivati u detalje da postaneš certificirani autor tople vode.

From wikipedia: Our external physical reality is a mathematical structure. That is, the physical universe is mathematics in a well-defined sense, and “in those [worlds] complex enough to contain self-aware substructures [they] will subjectively perceive themselves as existing in a physically ‘real’ world”.

“…it posits the existence of mathematical entities; a form of mathematical monism in that it denies that anything exists except mathematical objects; and a formal expression of ontic structural realism.”

“Tegmark has also formulated the “Ultimate ensemble theory of everything”, whose only postulate is that “all structures that exist mathematically exist also physically”"

Mathematical_universe_hypothesis

Možete pogledati na hep-spiresu što znanost misli o njegovim spekulacijama. Dok neki njegovi eksperimentalni radovi u velikim kolaboracijama imaju i po blizu 1000 citacija, radovi o multiverzima kojima je razvikan u javnosti imaju po cca 5 citacija. Čaki 2007 Nature članak, bez obzira na to da je publiciran u časopisu tog ranga ima samo 9 citacija unutar stručnog spiresa.
MIT mu to valjda tolerira, dok mame šalju svoje studente onda je još uvijek pozitivna reklama ako je netko household celebrity kao Michio Kaku sa svojim crvotočinama.

#16 Registriraj se Podatak dostupan članovima Connect-a Prosinac 7, 2014 u 11:00 Thumb up 1 Thumb down 3
#17 Registriraj se Podatak dostupan članovima Connect-a Prosinac 18, 2014 u 12:27 Thumb up 3 Thumb down 0

Dodatak na 15: Nature Scientific method: Defend the integrity of physics by George Ellis and Joe Silk.

Ovo je, međutim, samo odgovor na mnogo blaže spekuliranje o multiverzima, blaže od ekstremizma o tome da matematičke strukture koje su konzistentne i imaju svojstvo modeliranja svijesti jesu realno svjesne i da nije potreban niti točan pojam realnosti van čisto matematičkog, što reklamira Tegmark. George Ellis je, usput, s gornjim Hawkingom napisao jednu od najozbiljnijih i najcitiranijih klasičnih monografija iz gravitacijske fizike koja je podloga modernoj kozmologiji.

#18 Registriraj se Podatak dostupan članovima Connect-a Prosinac 18, 2014 u 12:30 Thumb up 3 Thumb down 0

Link ponovno (skakanje kursora po ekranu mi je ubacilo strani umetak u URL gore), Nature comment Scientific method: Defend the integrity of physics by George Ellis and Joe Silk.

#19 Registriraj se Podatak dostupan članovima Connect-a Prosinac 18, 2014 u 12:32 Thumb up 3 Thumb down 0

Treća sreća, Scientific method: Defend the integrity of physics by George Ellis and Joe Silk.

#20 Registriraj se Podatak dostupan članovima Connect-a Prosinac 18, 2014 u 13:45 Thumb up 4 Thumb down 0

“I am an AI researcher and I’m not scared. Here’s why.” link

#21 Registriraj se Podatak dostupan članovima Connect-a Siječanj 26, 2015 u 16:13 Thumb up 5 Thumb down 1

Portal Jutarnjeg lista donosi članak (poveznica) o nedavno održanoj konferenciji u Portoriku na kojoj se raspravljalo o potencijalnim opasnostima koje nam donosi (pre)brzi razvoj umjetne inteligencije.

Iz članka izdvajam:

* Koliko će ljudi ostati bez posla? Kako spriječiti skriptu za trgovanje na burzi da ne sruši cijelo tržište ukoliko u tome vidi korist za koju je programirana? Autonomna vozila morat će donositi odluke o životu i smrti: u slučaju u kojem su jedini izbori sudar s autobusom punim djece ili obaranje starice na pješačkom prijelazu, što će odlučiti umjetna inteligencija?

* Radi se o nečemu što će se sigurno dogoditi, i to takvom brzinom koja neće omogućiti društvu da se dovoljno brzo prilagodi. To bi mogao postati velik problem.

* Iako novinski naslovi plaše supermoćnim umjetnim inteligencijama koje bi mogle preuzeti svijet i vojnim robotima-ubojicama, prava opasnost je puno prozaičnija – unutar nekoliko godina, čak i polagani razvoj pametne automatizacije dovest će do velikih društvenih i ekonomskih potresa.

#22 Registriraj se Podatak dostupan članovima Connect-a Siječanj 30, 2015 u 16:26 Thumb up 4 Thumb down 3

Bill Gates: Ljudi bi trebali biti zabrinuti zbog prijetnje koju predstavlja umjetna inteligencija.

Ja sam u grupi onih koji su zabrinuti zbog superinteligencije. Prvo će strojevi raditi mnogo poslova za nas i neće biti superinteligentni. To bi trebalo biti pozitivno ako budemo time upravljali kako treba. Nekoliko desetljeća poslije inteligencija će biti dovoljno jaka da nas zabrine – napisao je Gates.

Dodao je da ne razumije ljude koji nisu u brizi zbog mogućnosti da umjetna inteligencija postane presnažna da bi je ljudi mogli kontrolirati.

#23 Registriraj se Podatak dostupan članovima Connect-a Svibanj 31, 2015 u 13:28 Thumb up 4 Thumb down 0

Stuart Russell, Sabine Hauert, Russ Altman i Manuela Veloso za Nature: Robotics: Ethics of artificial intelligence

#24 Registriraj se Podatak dostupan članovima Connect-a Lipanj 13, 2015 u 16:35 Thumb up 2 Thumb down 0

Dr. sc. Marko Velić, Večernji list: Umjetna inteligencija – trebamo li se bojati?

#25 Registriraj se Podatak dostupan članovima Connect-a Lipanj 28, 2015 u 19:26 Thumb up 2 Thumb down 0
#26 Registriraj se Podatak dostupan članovima Connect-a Lipanj 6, 2017 u 09:20 Thumb up 2 Thumb down 0
#27 Registriraj se Podatak dostupan članovima Connect-a Srpanj 25, 2017 u 10:48 Thumb up 1 Thumb down 1

Elon Musk: Roboti će šetati ulicama i ubijati ljude ako ih ne spriječimo.

Sve dok ljudi ne ugledaju robote kako šeću ulicom i ubijaju ljude, ne znaju kako bi reagirali jer im je sve to nestvarno. Umjetna inteligencija je rijedak slučaj u kojem moramo biti proaktivni s regulacijom, umjesto reaktivni. Smatram da će biti prekasno ako reaktivno reagiramo na umjetnu inteligenciju. (…) Umjetna inteligencija je najveći rizik za preživljavanje ljudske civilizacije.

#28 Registriraj se Podatak dostupan članovima Connect-a Srpanj 25, 2017 u 16:59 Thumb up 0 Thumb down 1

Da li se Vi to šalite ili stvarno mislite da od robota treba praviti Baba Roge?

#29 Registriraj se Podatak dostupan članovima Connect-a Srpanj 25, 2017 u 23:10 Thumb up 1 Thumb down 0

Ne šalim se. Ne mislim da opasnost od napredne umjetne inteligencije koja bi se izmakla kontroli treba preuveličavati, ali također ne mislim niti da je treba olako odbaciti kao neosnovanu. Smatram da je ta opasnost legitimna tema o kojoj se može i treba argumentirano raspravljati. Zato sam svojedobno otvorio ovu temu i zato na nju povremeno dodajem poveznice na članke o tome na koje nailazim u medijima tako da netko koga ta tema zanima može na jednom mjestu pronaći podosta informacija.

Prethodni post:

Slijedeći post: