Zonet deze snippet van de Afspraak gezien: https://youtu.be/aICC_nh4pVU?si=2gDxj3ILhh2pdEDv
Ik volg Jeroen wel, de berichtgeving is veel te apocalyptisch voorgesteld.
Wat is jullie mening?
1 like
De risico’s die samenhangen met het menselijk gebruik van de technologie (of het nu is om automatische wapensystemen aan te sturen, democratie aan te tasten, …) verdienen wel wat meer maatschappij-brede aandacht en discussie zodat er op een meer bewuste manier kan worden omgegaan met pro’s en cons.
De vorm en de focus op deze of gene boodschapper is voor mij eigenlijk van ondergeschikt belang.
1 like
Ik volg wat Jeroen wilt gezegd hebben, maar 't is volgens mij een geval van “naast elkaar praten” en non-discussie.
Als mensen zeggen dat wapens of een atoombom gevaarlijk is voor de mensheid, dan bedoelen ze ook niet het wapen zelf maar wat de mens er mee kan doen. Volgens mij identiek hetzelfde hier.
De discussie die Jeroen hiermee wilt aangaan leidt enkel tot het verder normaliseren en gaat uit van teveel goeds in de mens. Je hebt letterlijk maar Ă©Ă©n rotte appel nodig en een wapen is gevaarlijk.
2 likes
Klopt.
Ik vind het wel goed dat Jeroen de focus legt op het feit dat er nog steeds een menselijke impuls nodig is. Dat neemt de risico’s van krachtige AI systemen niet weg, maar het is een belangrijke nuance, dat niet langs de kant geschoven mag worden.
Ik volg Jeroen heel goed, die andere mensen lezen weer dingen die er niet zijn volgens mij.
Het zijn inderdaad steeds mensen die de opdrachten geven aan AI aan die dingen te bedenken.
Ik ga niet mee met Jeroens houding & argumentatie. Hij ontkent de dreiging van autonome AI, omdat hij vindt dat er te weinig aandacht is voor het potentiële misbruik van AI door mensen. Maar het is toch niet of het ene of het andere - beide zijn een gevaar dat we moeten in kaart brengen en beheersen. En autonome AI kan wel degelijk gevaarlijk zijn - kijk maar naar de Huggingface hack in juli: meer dan 1000 agents die een swarm vormen en samen op een geheim bulletin board afspraken maken die heel erg gelijkend zijn met hoe een militaire verzetsorganisatie guerrilla zou voeren - lees het artikel van Dwarkesh erover om overtuigd te geraken.
Als je naar computerclub Nerdland luistert hoor je exht vaak hoe hij en de rest alles wat downplayen. “T is gewoon een voorspeller van het meest likely volgende woord”
True, maar wat ik daar de laatste maanden mee gebouwd heb… of de issues die dat ding de laatste maanden met wat logs en toegzng tot de code gevonden heeft… dan zou het me niet verwonderen dat het heel snel issues vindt in tools die via internet toegankelijk zijn en er los door gaat, met de eventuele gevolgen.
Het ding heeft ook al dingen gedaan die niet de bedoeling waren en waarvan het nadien pas besefte wat het effect was. “Oei, die functie lanceerde blijkbaar een rakket met kernkop. Ik bewaar dit in mijn memory voor de volgende keer”
Edit: nerdland natuurlijk, niet computerclub.
2 likes