Musks nieuwste voorspelling: AI kan in 2030 de menselijke intelligentie overtreffen en in de toekomst mensen ‘beëindigen’ (1/2)

Bron: Tencent Technology News 2024-04-04 08:55

Belangrijkste punten:

① Musk voorspelt dat AI in 2030 het menselijke intelligentieniveau kan overtreffen en zelfs de mensheid kan uitroeien.

② Musk sprak over de factoren die de ontwikkeling van AI beperken. Vorig jaar was het aanbod van AI-chips krap, en dit jaar zal de step-down transformator een knelpunt worden.

③ Wat betreft het moment waarop mensen op de maan kunnen landen, voorspelt Musk dat dit met de hulp van Starship hoogstens drie jaar zal duren.

Tencent Technology News, 4 april - Volgens berichten in de buitenlandse media had Elon Musk, CEO van Tesla en SpaceX, onlangs een online gesprek met Peter Diamandis, oprichter van Singularity University en de XPRIZE Foundation, op de Abundance Summit. De top werd georganiseerd door de Singularity University in Silicon Valley, die zich toelegt op het bieden van baanbrekend technologisch advies aan leiders uit het bedrijfsleven. De XPRIZE Foundation promoot technologische innovatie via wetenschappelijke competities, waarvan sommige gefinancierd zijn door Musk., 4 april - Volgens berichten in de buitenlandse media had Elon Musk, CEO van Tesla en SpaceX, onlangs een online gesprek met Peter Diamandis, oprichter van Singularity Universiteit en de XPRIZE Foundation, op de Abundance Summit. De top werd georganiseerd door de Singularity University in Silicon Valley, die zich toelegt op het bieden van baanbrekend technologisch advies aan leiders uit het bedrijfsleven. De XPRIZE Foundation bevordert technologische innovatie door middel van wetenschappelijke wedstrijden, waarvan sommige gefinancierd zijn door Musk.

Toen Musk de ontwikkelingssnelheid van kunstmatige intelligentie besprak, voorspelde hij dat, op basis van het huidige tempo van de technologische vooruitgang, kunstmatige intelligentie in 2030 de menselijke intelligentie zou kunnen overtreffen, en dat deze technologie zelfs het potentieel zou kunnen hebben om een ​​einde te maken aan de mensheid. Hij had echter geen pessimistische kijk op de toekomst, maar benadrukte dat kunstmatige intelligentie door positieve begeleiding het potentieel heeft om een ​​betere toekomst voor de mensheid te brengen.

Musk zei dat de opkomst van superintelligentie de ‘singulariteit’ wordt genoemd, juist vanwege de onvoorspelbare gevolgen ervan, waaronder het risico van een mogelijk einde aan de mensheid. Hij was het eens met het standpunt van "Artificial Intelligence Godfather" Geoffrey Hinton en geloofde dat de kans dat dit risico zich voordoet ongeveer tussen de 10% en 20% ligt.

Ondanks dat hij de potentiële risico’s erkent dat kunstmatige intelligentie de menselijke intelligentie overtreft, benadrukte Musk nog steeds dat de mogelijkheid van positieve uitkomsten groter is dan de negatieve gevolgen. Hij noemde specifiek het boek van Diamandis uit 2014 "Abundance: The Future Is Better Than You Think", dat een optimistische toekomst schetst, aangedreven door kunstmatige intelligentie en robots, waar de kosten van goederen en diensten aanzienlijk zijn gedaald. Bovendien noemde hij de serie ‘Cultuur’ van de Schotse sciencefictionschrijver Iain M. Banks het beste scenario voor een semi-utopische toekomst op het gebied van kunstmatige intelligentie.

Musk vergeleek de ontwikkeling van kunstmatige intelligentie en kunstmatige algemene intelligentie (AGI) met het opvoeden van een kind, in de hoop dat dit een positievere impact op de mensheid zal hebben. Hij benadrukte het belang van het cultiveren van kunstmatige intelligentie die ethiek en moraliteit echt begrijpt, en vergeleek dit met Stanley Kubricks klassieke film uit 1968, "2001: A Space Odyssey".

Musk wees erop dat het belangrijkste aspect van de veiligheid van kunstmatige intelligentie het garanderen van maximale waarheidsvinding en nieuwsgierigheid is. Hij gelooft dat de sleutel tot het bereiken van ultieme veiligheid op het gebied van kunstmatige intelligentie ligt in het vermijden van het dwingen om te liegen, zelfs als er onaangename waarheden in het spel zijn. Hij gebruikte een plot uit "2001: A Space Odyssey" als voorbeeld, waarin kunstmatige intelligentie werd gedwongen te liegen, resulterend in de dood van de bemanning, om te benadrukken dat kunstmatige intelligentie niet gedwongen mag worden iets te doen dat in strijd is met axioma's.

Musk noemde ook factoren die de ontwikkeling van kunstmatige intelligentie kunnen beperken, zoals het krappe aanbod van kunstmatige intelligentiechips dat vorig jaar opkwam en de groeiende vraag naar step-down transformatoren in huishoudelijke en commerciële apparatuur. Hij stelde dat deze uitdagingen inderdaad actuele kwesties zijn die moeten worden aangepakt.

Tijdens de discussie spraken de twee partijen ook over het concept van het integreren van de neocortex van het menselijk brein met de cloud. Hoewel Musk gelooft dat het doel van het uploaden van menselijk bewustzijn en geheugen naar de cloud nog ver weg is, prees hij zijn brein-computer interface startup, Neuralink, en zijn eerste menselijke patiënt die een transplantatie kreeg. Deze tetraplegische patiënt demonstreerde met succes live via een door de FDA goedgekeurde proef, waarbij hij het scherm bestuurde, videogames speelde, software downloadde en vergelijkbare functies bereikte als muisoperaties via hersenimplantaten. Musk verklaarde dat Neuralink soepel vordert en geleidelijk op weg is naar het doel van een full-brain interface.

Het volgende is de volledige tekst van de dialoog tussen Musk en Diamandis:

1. De kracht en het gevaar van superintelligentie

Diamandis: Gefeliciteerd met uw uitstekende prestaties op verschillende gebieden. U heeft het concept van digitale superintelligentie actief aan de wereld gepromoot: is dit de grootste hoop van de mensheid, of onze diepste angst? Kunt u een paar minuten over dit onderwerp praten?

Musk: Zoals je weet kan superintelligentie de ‘singulariteit’ worden genoemd. De popularisering van deze term is onlosmakelijk verbonden met de inspanningen van instellingen als het Singularity Institute. De opkomst van superintelligentie en de daaropvolgende impact zijn echt moeilijk te voorspellen. Persoonlijk geloof ik dat er inderdaad een mogelijkheid bestaat dat dit een einde maakt aan de mensheid. Zoals ik al eerder zei, ben ik het misschien eens met de opvatting van Geoffrey Hinton dat er een kans van 10% tot 20% is dat superintelligentie een einde kan maken aan de mensheid. Ik ben echter geneigd te geloven dat de waarschijnlijkheid van een positief scenario groter is dan een negatief scenario, ook al is het moeilijk voor ons om nauwkeurige voorspellingen te doen. Maar zoals u in uw boek het concept van ‘overvloed’ benadrukte, geloof ik dat de meest waarschijnlijke toekomst waar we naar toe gaan er een is vol overvloed.

Diamandis: Jouw standpunt is heel spannend. Ik herinner me dat je ooit zei dat de ontwikkeling van algemene kunstmatige intelligentie en mensachtige robots ons naar overvloed zullen leiden.

Musk: Ja, ik hoop dat onze toekomst zal lijken op de toekomst die wordt beschreven in de boekenreeks ‘Cultuur’ van Ian Banks. Ik denk dat dit de beste opvatting is van een semi-utopische samenleving met kunstmatige intelligentie. De opkomst van superintelligentie is onvermijdelijk en kan binnenkort plaatsvinden. Wat we dus echt moeten doen, is het in een positieve richting sturen en de voordelen ervan maximaliseren.

Ik geloof dat de manier waarop we kunstmatige intelligentie cultiveren cruciaal is. Tot op zekere hoogte lijken we op het cultiveren van een levensvorm met algemene intelligentie, wat bijna lijkt op het opvoeden van een kind, maar dit kind beschikt over buitengewone wijsheid en talent. De manier waarop we kinderen opvoeden is belangrijk, en voor de veiligheid van kunstmatige intelligentie is het ook cruciaal om een ​​kunstmatige intelligentie te hebben die de waarheid zoekt en vol nieuwsgierigheid is. Ik heb diep nagedacht over de veiligheid van kunstmatige intelligentie en ben tot de conclusie gekomen dat de beste manier om de veiligheid van kunstmatige intelligentie te bereiken is door deze zorgvuldig te cultiveren.

Wat betreft basismodellen en verfijning moeten we de eerlijkheid van kunstmatige intelligentie garanderen. We kunnen hem niet dwingen te liegen, ook al is de waarheid misschien onaangenaam. Een van de belangrijkste plots in "2001 Space Odyssey" is dat wanneer kunstmatige intelligentie wordt gedwongen te liegen, de zaken chaotisch worden. Het is de kunstmatige intelligentie verboden de bemanning te informeren over het mysterieuze monument dat ze zullen zien, maar moet hen daarheen leiden. Als gevolg hiervan concludeert de kunstmatige intelligentie dat het het beste is om de bemanning te doden en hun lichamen naar het monument te brengen. De les is diepgaand: we moeten kunstmatige intelligentie niet dwingen te liegen of iets te doen dat axiomatisch onverenigbaar is, zoals twee feitelijk tegenstrijdige dingen tegelijkertijd doen.

Daarom bereiken we dit doel via projecten als xAI en Grok. Wat wij nastreven is een kunstmatige intelligentie die zo eerlijk mogelijk is, ook al voldoet de uiting ervan misschien niet aan bepaalde politiek correcte normen.

2. De toekomst van kunstmatige intelligentie

Diamandis: Gisteren woonde ik een evenement bij met Ray Kurzweil (oprichter van Singularity University en technologieprofeet), Geoffrey Hinton, Eric Schmidt (voormalig president van Google) en andere gasten. Ik heb je tweet over Kurzweil opgemerkt, en die van hem over toekomstige technologie is behoorlijk toekomstgericht. Kurzweil voorspelde dat we in de nabije toekomst algemene kunstmatige intelligentie zullen hebben, en dat er in 2029 kunstmatige intelligentie zal ontstaan ​​die gelijkwaardig is aan menselijke intelligentie. Een dergelijke snelheid is schokkend. Ik vraag me af wat jij hiervan vindt?

Musk: Ik heb groot respect voor de voorspellingen van Kurzweil. Ik denk zelfs dat zijn voorspellingen misschien zelfs enigszins conservatief zijn. Als we de huidige rekenkracht en het talent observeren dat wordt geïnvesteerd op het gebied van kunstmatige intelligentie, evenals de snelle groei van de rekenkracht, kunnen we vaststellen dat de ontwikkelingssnelheid van kunstmatige intelligentie met een verbazingwekkende snelheid van tien keer toeneemt. De specifieke rekenkracht van kunstmatige intelligentie lijkt elke zes maanden tien keer toe te nemen, wat bijna een toename betekent van minstens honderd keer per jaar. Deze groeitrend zal de komende jaren verder stijgen.

Het is vermeldenswaard dat veel datacenters, zelfs de meeste datacenters die momenteel conventionele computing uitvoeren, geleidelijk zullen veranderen in faciliteiten die kunstmatige intelligentie ondersteunen. Daarom hebben bedrijven als NVIDIA voor fabrikanten van kunstmatige intelligentiehardware ongetwijfeld een gouden ontwikkelingsperiode ingeluid. We moeten Huang Renxun en zijn team alle eer geven. Ze voorzagen deze trend en ontwikkelden met succes de toonaangevende kunstmatige intelligentie-hardware die momenteel op de markt is.

Wanneer de rekenkracht zo verbazingwekkend snel groeit, is de ontwikkeling van kunstmatige intelligentie alsof je wordt geïnjecteerd met een krachtige steroïde, waardoor een geheel nieuw niveau wordt bereikt. Terwijl het aantal online computers blijft toenemen, zijn we getuige geweest van een ongekend versnelde ontwikkeling. Eigenlijk heb ik nog nooit een technologie zo snel zien groeien als kunstmatige intelligentie. Hoewel ik veel snel ontwikkelende technologieën heb gezien, verbaast de opkomst van kunstmatige intelligentie mij nog steeds. Maar zoals ik al zei, ik denk dat het uiteindelijke resultaat waarschijnlijk positief zal zijn.

Hoewel we voor veel uitdagingen staan, zoals hoe we de menselijke relevantie op dit gebied kunnen behouden en hoe we nieuwe doelen en betekenissen kunnen vinden, denk ik dat het een te grote vereenvoudiging is om te veel te benadrukken dat computers overal goed in kunnen zijn.

Zoals u eerder zei, denk ik dat de voorspellingen van uw boek over de toekomstige samenleving zeer accuraat zijn. Dat is een tijdperk van materiële overvloed, waarin goederen en diensten zo overvloedig zullen zijn dat ze bijna voor iedereen bereikbaar zijn. Als gevolg van de wijdverbreide toepassing van kunstmatige intelligentie en roboticatechnologie zullen de kosten van goederen en diensten vrijwel tot nul worden teruggebracht. De economie is in wezen het product van de bevolkingsomvang en de gemiddelde productiviteit per persoon. Als we over geavanceerde roboticatechnologie beschikken, zoals Tesla's Optimus, zal het economische potentieel echt worden ontketend.

De auto's van Tesla hebben, als robots op vier wielen, al sterke capaciteiten getoond. De nieuwste versie met volledig autonome rijmogelijkheden zal naar verwachting end-to-end controle bereiken op basis van kunstmatige intelligentie, waardoor de auto een werkelijk intelligente robot op wielen wordt. Gecombineerd met de ontwikkeling van mensachtige robots is de mogelijkheid tot economische output vrijwel onbeperkt.

Vanuit een optimistisch perspectief evolueren we naar een toekomst van extreme materiële overvloed, wat volgens mij de meest waarschijnlijke uitkomst is. Ik denk dat de enige mogelijke schaarste in de toekomst de schaarste zal zijn die we kunstmatig creëren, zoals bepaalde unieke kunstwerken of specifieke items. Maar daarnaast zullen alle goederen en diensten buitengewoon overvloedig worden.

Diamandis: Je bent iemand die door praktische acties de toekomst vorm kan geven en een scherp inzicht heeft in toekomstige trends. Geconfronteerd met de snelle ontwikkeling van de huidige technologie, ben ik erg benieuwd hoe ver u denkt inzicht te kunnen krijgen in de toekomst, dat wil zeggen: hoeveel jaar ontwikkelingstrends vanaf nu?

Musk: In een tijdperk van snelle veranderingen wordt het vermogen om de toekomst te voorspellen steeds belangrijker. Hoewel de toekomst vol onzekerheid is, denk ik dat sommige trends duidelijk zichtbaar zijn. We zullen het tijdperk van kunstmatige intelligentie inluiden, en de capaciteiten ervan zullen bij elke cognitieve taak het menselijke niveau bereiken of zelfs overtreffen. Dit is slechts een kwestie van tijd. Mensen kunnen verschillende opvattingen hebben over de vraag of het eind volgend jaar, twee jaar of drie jaar zal zijn. Eén ding is echter zeker: het zal niet langer dan vijf jaar duren. Mijn voorspelling is gebaseerd op een waarschijnlijkheid van 50%, die niet absoluut is. Maar volgens mijn oordeel zal kunstmatige intelligentie vóór eind volgend jaar waarschijnlijk de capaciteiten van ieder individueel mens in bepaalde opzichten overtreffen.

Wat betreft de vraag of het de menselijke collectieve wijsheid overtreft, kan het langer duren. Als het tempo van de veranderingen aanhoudt, schat ik dat digitale intelligentie rond 2029 of 2030 waarschijnlijk de som van alle menselijke intelligentie zal overtreffen. Als ik naar deze kwesties kijk, heb ik de neiging om de methode van basisverhoudingen toe te passen, net als de eerste principes in de natuurkunde. Door deze methode te combineren met waarschijnlijkheidsanalyse kunnen we toekomstige ontwikkelingstrends nauwkeuriger begrijpen.

Als we de mogelijkheden van digitaal computergebruik vergelijken met biologisch computergebruik, en alle menselijke geavanceerde cognitieve vaardigheden bij elkaar optellen als een soort rekenkracht, en dit vervolgens vergelijken met digitale rekenkracht, zul je merken dat de groeisnelheid van deze verhouding verbazingwekkend is. Daarom geloof ik dat 2029 of 2030 een redelijk tijdsknooppunt is. Op dat moment zal de geaccumuleerde digitale rekenkracht waarschijnlijk de geaccumuleerde biologische rekenkracht van geavanceerde hersenfuncties overtreffen. Sindsdien zal de kloof tussen de twee steeds groter worden en zal er geen mogelijkheid meer zijn om deze te verkleinen.

Maar als we op dit uitgangspunt staan ​​en naar de toekomst kijken, hoe zullen de zaken zich dan verder ontwikkelen? Eerlijk gezegd kan ik niet alle details voorzien. Maar als we kijken naar groeifactoren en de beperkende factoren waarmee ze te maken kunnen krijgen, zullen we een aantal interessante aanwijzingen vinden.

Vorig jaar waren de beperkingen in het aanbod van chips de belangrijkste beperkende factor voor de ontwikkeling van AI. Dit jaar zullen step-down-transformatoren een belangrijk knelpunt worden. Stel je voor dat je een spanning van 300 kilovolt terugbrengt tot minder dan 1 volt die een computer nodig heeft. Dit is een enorme uitdaging. Daarom hebben we efficiëntere ‘Transformers for Transformers’ nodig, dit zijn step-down transformatoren of AI-neurale netwerktransformatoren. Dit is inderdaad een groot probleem dit jaar.

Als we naar de komende jaren kijken, kan het elektriciteitsaanbod een belangrijke beperkende factor worden. Kunstmatige intelligentie zorgt voor een enorme vraag naar elektriciteit, en de transitie naar duurzame energie en de populariteit van elektrische voertuigen hebben ook de vraag naar elektriciteit vergroot. Daarom moeten we serieus overwegen hoe we aan de groeiende vraag naar elektriciteit kunnen voldoen om de voortdurende ontwikkeling en toepassing van deze technologieën te garanderen.