W przeciągu najbliższych stu lat komputery wyprzedzą ludzi pod względem inteligencji. Kiedy to się stanie, musimy się upewnić, że cele komputerów będą zbliżone do ludzkich. Nasza przyszłość to wyścig, który odbywa się pomiędzy rosnącą potęgą technologii i naszą wiedzą na temat korzystania z niej mądrze.
Na konferencji Zeitgeist 2015.
Można sobie wyobrazić technologię, która przechytrzyłaby rynki finansowe, przerosłaby możliwościami ludzkich wynalazców, wywiodłaby w pole światowych przywódców i stworzyłaby broń, której nie będziemy nawet w stanie zrozumieć. Podczas gdy krótkoterminowy rozwój sztucznej inteligencji zależy od tego, kto ją kontroluje, na dłuższą metę chodzi o to, czy sztuczną inteligencję w ogóle da się kontrolować.
Zatem w obliczu ewentualnych acz nieprzewidywalnych możliwości i zagrożeń eksperci robią, co mogą, by osiągnąć najlepsze rezultaty, prawda? Błąd. Jeśli przeważająca nad nami obca cywilizacja prześle nam wiadomość: „Przybędziemy za kilka dekad”, odpowiemy: „Dobrze, dajcie znać, kiedy dotrzecie, zostawimy wam otwarte drzwi”? Prawdopodobnie nie, ale w mniejszym lub większym stopniu właśnie tak postępujemy ze sztuczną inteligencją. Potencjalnie stoimy w obliczu czegoś najlepszego lub najgorszego w historii ludzkości. Niewiele poważnych badań jest poświęconych temu zagadnieniu. […] Każdy z nas powinien spytać sam siebie, co można zrobić, jeśli chodzi o sztuczną inteligencję, by osiągnąć korzyści, unikając niebezpieczeństw.
Publikacja „The Independent”
