Julkaistu Kaarina-lehti 6.3.2019
Tekoälystä puhuttaessa tarkoitetaan koneoppimista ja neuroverkkoja. Tunnettu tekoäly ei ole sillä tasolla, että sen voisi tiputtaa mihin tahansa ja se osaisi alkaa siitä itsenäisesti suoriutumaan ja hahmottamana missä se on. Tekoälyn tutkijat ja kehittäjät ovat eri mieltä, milloin tekoäly on ihmisen tasolla. Toiset eivät ikinä usko sen ohittavan ihmisen älyn tasoa. Toiset uskovat sen tapahtuvan aikaisintaan 200 vuoden päästä. Kun se ohittaa ihmisen tason, se ohittaa sen nopeasti ja yli-inhimilliselle tasolle.
Jotta tekoäly ei orjuuttaisi ihmiskuntaa, sille on asetettava meidän tavoitteemme. Tekoäly on pakotettava oppimaan tavoitteemme, omaksumaan tavoitteemme ja säilyttämään tavoitteemme. Ongelmaksi tulee, miten tavoitteet esitetään. Jos haluat esimerkiksi lentokentälle mahdollisimman nopeasti tekoälyn ohjaaman auton kyydissä, päädyt sinne oksennuksen peitossa helikopterien jahtaamana kuten GTA-pelissä.
Esitettäessä tavoite, pitää tavoite avata syvällisesti ja tehdä ehtoja. Koska tekoäly ei automaattisesti ymmärrä samoja asioita kuin ihminen. Esimerkkinä satu kuningas Midaksesta, joka toivoi kaiken muuttuvan kullaksi mihin hän koskee. Tekoäly toimii samoin kuin tarinoiden henget, toteuttaa kaiken kirjaimellisesti. Useimmiten kolmesta toivomuksesta viimeisin on perua kaksi aiempaa toivomusta, koska ihmisen toive johtaa päämäärään liian tehokkaasti.
Jos osaisi ottaa huomioon ihmisen toivomukset, sen pitäisi olla yli-inhimillisellä tasolla. Miksi näin viisas tekoäly enää haluaisi samaa kuin ihmiset. Nelivuotias kuvittelee, että tultuaan aikuiseksi ja paljon älykkäämmäksi, hän haluaa rakentaa jättimäisen piparkakkutalon, jossa voi kaiket päivät syödä makeisia ja jäätelöä. Tavoitteet aikuisena ovat kuitenkin erit. Sama käy tekoälylle, joka nopeasti ohittaa ihmisen älykkyyden.
Emme voi mitenkään olla varmoja, että yli-inhimillinen tekoäly haluaa samoja asioita, joita alempi älymme ihannoi. Siksi meidän on pyrittävä varmistamaan, että luomamme tekoäly tosiaan ymmärtää meitä ja säilyttää myös meidän tavoitteemme.