Deze week checken we in bij Ray Kurzweil. Die voorspeelde in 2005 dat we 20 jaar later de ‘Singularity’ zou krijgen. Dan overstijgt AI onze menselijke intelligentie.
Dat vraagt om een dubbele poll.
Wanneer krijgen we AGI?
Héél binnenkort, nu we LLMs hebben.
Er zal nog een doorbraak type GPT nodig zijn, maar ergens de komende 10 jaar.
Ooit, maar zeker nog meer dan 10 jaar.
Nooit.
0stemmers
Als we ooit AGI krijgen, dan ben ik:
Echt bang: de Doos van Pandora is dan geopend
Voorzichtig negatief: we zullen echt moeten opletten, ik zie het mislukken
Voorzichtig positief: elke technologie houdt risico’s in, maar ik maak me geen existentiële zorgen.
Denk persoonlijk dat als we 20 jaar geleden zouden tonen wat AI vandaag kan, heel wat personen zouden beweren dat we het punt van Singularity voorbij zijn. Net zoals je iemand 50 jaar geleden een smartphone in zijn handen zou kunnen duwen. Of 100 jaar geleden een GPS toestel, … (Silly examples maybe).
Zolang de definitie van AGI niet sluitend is gaan we er niet snel geraken, al gaan we mits een volgende GPT like doorbraak wel echt heel wat zien veranderen in de samenleving zoals vandaag al aan het gebeuren is. Huidige GPT tech lijkt me, gezien ook de trillion dollar en fusion tech statements van Altman, sowieso nog een stuk te kort te schieten om echt over AGI te kunnen spreken → al heeft de modale mens in de straat dit niet echt door, omdat taalmodellen nu eenmaal heel goed zijn in het slim overkomen.
En to be fair: als je kijkt naar sommige mensen hun wereldbeeld en wat ze publiek zeggen en doen, dan valt er een punt te maken dat AGI bereikt werd toen Turing de eerste keer een computer aan de praat kreeg
Ik vrees dat de globale milieu-uitdagingen de singulariteit voorlopig in de weg staan. Zolang AI-training en gebruik zo’n gigantisch verbruik van energie vereisen, denk ik niet dat we naar het volgende niveau kunnen komen.
Zoals we wel weten kost het trainen van geavanceerde AI-modellen helaas enorme hoeveelheden rekenkracht/energie en de datacenters die deze rekenkracht leveren verbruiken niet alleen veel stroom voor berekeningen, maar ook voor koeling.
Er wordt momenteel wel onderzoek gedaan naar efficiëntere algoritmen en nieuwe koeltechnologieën, en bedrijven investeren wel in hernieuwbare energie, toch denk ik dat de economische en infrastructurele beperkingen de grootste uitdaging blijven. Volgens mij gaan overheden ook bepaalde reguleringen invoeren rond energieverbruik, wat de ontwikkeling van AI in de toekomst alleen maar kan vertragen.
Het voornaamste probleem, althans naar mijn mening, is wat je definieert als “intelligentie”, want daar valt of staat heel de discussie mee… ook de discussies in de podcast trouwens: wat volgens de ene “intelligentie” is, is volgens de andere “gewoon plat berekenen van alle mogelijke opties aan een ongelooflijke snelheid”.
Ik sluit me vooralsnog aan bij de mening dat AI en LLM de dag van vandaag eigenlijk gigantisch grote (en goeie) modellen en methoden zijn om uit een massa data iets statistisch zinvol te berekenen. Het feit dat wij onder de indruk zijn, en dat dan ook intelligent noemen komt dan omdat wij zelf niet in staat zijn een dergelijke massa data te verwerken en te berekenen met ons brein. Het feit dat een llm tekst en antwoorden kan genereren die zo nauw aansluiten bij wat je zelf zou doen geeft volgens mij enkel maar aan dat wat wij doen niet zo irrationeel en toevallig acteren, maar redelijk berekende wezens zijn. Nog een reden waarom we dat intelligent noemen denk ik. En ook: traditioneel noemen we de meest intelligente jongen van de klas diegene die héél goed is in wiskunde en fysica, en niet meest creatieve, of sociale. Dus als je intelligentie definieert als “mate waarin iets kan berekenen” dan zullen we er nogal snel zijn als de snelheid waarmee we kunnen rekenen nog beter wordt, de modellen verbeteren en we nog meer data geven.
Er zijn echter aspecten volgens mij waar we nog lang niet aan begonnen zijn, en die minder makkelijk wiskundig te berekenen zijn:
Intuïtie
Creativiteit
Als je die in de discussie betrekt staan we volgens mij nog niet zo zot ver. Creativiteit kan je deels nog oplossen door een paar “parameters at random” te kiezen waardoor je soms wat andere resultaten krijgt. Intuïtie is al helemaal iets anders.
