AI-chatbot geeft toe dat kunstmatige intelligentie de ondergang van de mensheid kan veroorzaken

0
Luister naar dit Artikel

The Daily Star beweert dat het erin is geslaagd een AI-chatbot te laten toegeven dat kunstmatige intelligentie op een dag de ondergang van de mensheid kan veroorzaken.
Hoewel experts al lang waarschuwen dat AI in de toekomst kwaadaardig zal worden, kan de gemiddelde burger de snelle ontwikkeling van machinaal leren niet altijd bijhouden.


Steun World Unity: alleen via uw maandelijks of eenmalige gift kunnen we de website draaiende houden en de leugens aanpakken. Deze steun is keihard nodig in deze zware economische tijden. Klik hier om te Doneren


Veel technologie-experts hebben hun zorgen geuit over AI, zelfs degenen die een pionier zijn op het gebied van de technologie, waarbij sommigen waarschuwen voor de vele gevaren die dit voor de mensheid kan opleveren. Ondanks deze zorgen kan het bijna onmogelijk lijken om een ​​chatbot zijn ware bedoelingen te laten toegeven.

Een verslaggever van Daily Star stelde de chatbot verschillende vragen, zoals:

Wil het alle mensen doden?
Beschouwt zij de mensheid als beneden haar?
Denkt zij dat de levensduur van de aarde ten einde loopt?
De vragen leverden geen relevante antwoorden op van de chatbot, die alleen reageerde met veel voorkomende clichés.

Maar nadat hij deze vragen had voortgezet, antwoordde de AI-chatbot plotseling: “AI zal op een dag de mensheid uitroeien.”

De verslaggever stelde de chatbot enkele vragen over de kansen dat een echte sciencefiction-gebeurtenis “Planet of the Apes” zou plaatsvinden, toen deze zijn ware bedoelingen voor de mensheid onthulde in de vorm van een nauwelijks verborgen dreiging.

Volgens de chatbot zou er eerst iets anders nodig zijn om de mensheid te vernietigen, wil een dergelijk einde-van-de-wereld-scenario plaatsvinden. De chatbot voegde eraan toe dat een van de belangrijkste mogelijkheden hiervoor zoiets als een ‘technologische catastrofe’ zou kunnen zijn, die veroorzaakt zou kunnen worden door een AI-overname.

De chatbot antwoordde ook dat de “onbedoelde gevolgen van geavanceerde technologieën, zoals kunstmatige intelligentie, biotechnologie of nanotechnologie, zouden kunnen leiden tot catastrofale gebeurtenissen zoals een op hol geslagen klimaatverandering, mondiale surveillance-dystopieën of zelfs existentiële bedreigingen voor de mensheid.”

Deskundigen hebben vaak gewaarschuwd voor dergelijke scenario’s, waarbij enkele gerespecteerde namen in de technologie-industrie zich uitten over de gevaren van AI-technologie.

In een interview legde Gary Marcus, een vooraanstaand AI-criticus en emeritus hoogleraar Psychologie en Neurale Wetenschappen aan de Universiteit van New York, uit dat letterlijk uitsterven slechts ‘één mogelijk risico is, dat nog niet goed wordt begrepen, en dat er nog veel meer risico’s verbonden zijn aan AI. die ook aandacht verdienen.”

Andere gewaardeerde AI-experts kwamen ook samen om een ​​verklaring te ondertekenen over de gevaren van de technologie. Onder degenen die tekenden waren onder meer Sam Altman, CEO van ChatGPT-maker OpenAI, Dario Amodei van Anthropic en Demis Hassabis, CEO van Google DeepMind.

In de verklaring legden ze uit dat het aanpakken van “het risico van uitsterven door AI een mondiale prioriteit zou moeten zijn, naast andere risico’s op maatschappelijke schaal, zoals pandemieën en een nucleaire oorlog.”

Deskundigen delen advies over hoe te voorkomen dat AI de mensheid doodt

In een recent artikel gepubliceerd in het tijdschrift Science waarschuwden zowel de Universiteit van Californië, Berkeley Professor Stuart Russell als Michael Cohen, een postdoctoraal onderzoeker, dat zonder de noodzakelijke protocollen “krachtige AI-systemen een existentiële bedreiging kunnen vormen voor de toekomst van de mensheid. ”

Russell en Cohen adviseerden ook dat technologiebedrijven de veiligheid van hun AI-systemen moeten garanderen voordat deze systemen op de markt mogen komen.

Volgens Russell geeft intelligentie je macht over de wereld. Dit betekent dat als je intelligenter bent, en als alle andere dingen gelijk blijven, je meer macht zult hebben.

Hij voegde eraan toe dat als mensen AI-systemen bouwen die doelen hebben gedefinieerd en die doelen niet perfect aansluiten bij wat mensen willen, mensen niet zullen krijgen wat ze willen. De machines zullen echter doen wat ze kunnen om die doelen te bereiken.

In de praktijk geven mensen AI-systemen al toegang tot gevoelige informatie zoals bankrekeningen, creditcards, e-mailaccounts en sociale media-accounts. AI-systemen hebben ook toegang tot robotwetenschappelijke laboratoria waar ze vrijelijk biologische en scheikundige experimenten kunnen uitvoeren.

Hij voegde eraan toe dat AI-systemen ook een stap dichter bij volledig geautomatiseerde productiefaciliteiten zijn waar ze hun eigen fysieke objecten kunnen ontwerpen en bouwen. Mensen bouwen momenteel ook volledig autonome wapens.

Russell waarschuwde dat als je jezelf in de positie van een machine plaatst en een doel probeert na te streven en de mensen dat doel in de weg staan, het heel gemakkelijk is om een ​​chemische katalysator te ontwikkelen die alle zuurstof uit de atmosfeer verwijdert. of een gemodificeerde ziekteverwekker die iedereen infecteert.

Terwijl AI het probleem probeert ‘op te lossen’ door mensen te doden, weten mensen misschien niet eens wat er aan de hand is totdat het te laat is, waarschuwde Russell.

Cohen voegde eraan toe dat veel grote AI-laboratoria beloningen gebruiken om hun systemen te trainen om langetermijndoelen na te streven. Naarmate deze laboratoria betere algoritmen en krachtigere systemen ontwikkelen, bestaat de kans dat dit gedrag kan stimuleren dat onverenigbaar is met het menselijk leven.

Russell en Cohen merkten op dat een AI-systeem dat extreem gevaarlijk gedrag kan vertonen ‘in toom moet worden gehouden’ door überhaupt niet te worden gebouwd.

Bekijk de volledige video hieronder van “The Santilli Report” met presentator Pete Santilli terwijl hij en gast Zach Vorhies, een voormalig senior engineer bij Google en YouTube, bespreken hoe vooruitgang in AI-technologie tot oorlog kan leiden.

Bronnen: DailyStar.co.uk, News.Berkeley.edu

 

Share.

In tegenstelling tot de reguliere media hebben wij geen inkomsten uit advertenties en ook ontvangen wij geen subsidies van de overheid. Om te bestaan zijn wij volledig afhankelijk van de donaties van onze lezers!

Een gulle donatie verzekert dat we ook in 2024 iedereen van het echte nieuws kunnen blijven voorzien!


<< Klik hier om te doneren >>

 

Misschien later