Superintelligentie: Paths, Gevaren, Strategies (2014) is een boek van de Zweedse filosoof Nick Bostrom van de Universiteit van Oxford. Zij stelt dat als de machine hersenen overtreffen menselijke hersenen in algemene intelligentie, dan is deze nieuwe superintelligentie kon de mens als de dominante levensvorm op aarde te vervangen. Voldoende intelligente machines konden hun eigen capaciteiten te verbeteren sneller dan menselijke informatici. Als het lot van de gorilla hangt nu meer op de mens dan op de acties van de gorilla’s zelf, zo zal het lot van de toekomst van de mensheid hangt af van de acties van de machine superintelligentie. Het resultaat zou een existentiële ramp zijn voor de mens.

Bostrom’s boek is vertaald in vele talen en is beschikbaar als een audioboek.

Synopsis

Het is onbekend of humaan-level kunstmatige intelligentie worden in enkele jaren later deze eeuw, of pas komende eeuwen. Ongeacht de initiële termijn, zodra de mens-machine-niveau intelligentie is ontwikkeld, een “superintelligente” systeem dat “veel groter is dan de cognitieve prestaties van mensen in vrijwel alle domeinen van belang” zou verrassend snel volgen, mogelijk zelfs onmiddellijk. Zo’n superintelligentie zou het moeilijk zijn te controleren of te beperken.

Hoewel de uiteindelijke doelstellingen van superintelligences sterk kan verschillen, wordt een functionele superintelligentie spontaan genereren, als natuurlijke subdoelen, “instrumentele doelen”, zoals zelfbehoud en het doel-integriteit van de inhoud, cognitieve enhancement, en de verwerving van hulpbronnen. Bijvoorbeeld, een agent wiens enige uiteindelijke doel is om het op te lossen Riemann-hypothese (een beroemde onopgeloste, wiskundige vermoeden ) zou kunnen leiden, en reageren op, een subdoel van het transformeren van de hele aarde in een bepaalde vorm van computronium (hypothetische ” programmeerbare materie “) om helpen bij de berekening. De superintelligentie zou proactief verzetten tegen eventuele externe pogingen om de superintelligentie uit te schakelen of op andere wijze te voorkomen zijn subdoel voltooiing. Om dergelijke voorkomen existentiële ramp, kan het nodig zijn om succesvol oplossen van de “AI controleprobleem” voor de eerste superintelligentie. De oplossing zou kunnen inhouden bijbrengen de superintelligentie met de doelen die compatibel zijn met de menselijke overleving en welzijn zijn. Het oplossen van de controle probleem is verrassend moeilijk omdat de meeste goals, toen vertaald in machine-uitvoerbare code, leiden tot onvoorziene en ongewenste gevolgen.

Ontvangst

Het boek van # 17 op de lijst New York Times van de best verkochte wetenschappelijke boeken voor augustus 2014. In dezelfde maand, zakenmagnaat Elon Musk in het nieuws door in te stemmen met het boek dat de kunstmatige intelligentie is potentieel gevaarlijker dan kernwapens. werk Bostrom op superintelligentie heeft ook invloed gehad op Bill Gates ‘s zorg voor de existentiële risico’s voor de mensheid in de komende eeuw. In maart 2015 interview met Baidu ‘ CEO’s, Robert Li, Gates beweerde dat hij zou “highly recommend” superintelligentie.

De wetenschap redacteur van de Financial Times bleek dat Bostrom het schrijven “soms bocht in ondoorzichtige taal die zijn achtergrond verraadt als een professor in de filosofie”, maar overtuigend aantoont dat de risico’s van superintelligentie groot genoeg is dat de samenleving moet nu beginnen na te denken over manieren om toekomstige machine intelligentie schenken met een positieve waarde. een recensie in The Guardian wees erop dat “zelfs de meest geavanceerde machines die tot nu toe zijn intelligent slechts in beperkte zin” en dat “de verwachting dat AI spoedig zou inhalen menselijke intelligentie werden voor het eerst onderbroken in de jaren 1960”, maar vindt raakvlakken met Bostrom in het adviseren dat “men zou worden onverstandig om de mogelijkheid geheel te verwerpen”.

Sommige collega’s Bostrom’s suggereren dat een nucleaire oorlog vormt een grotere bedreiging voor de mensheid dan superintelligentie, net als de toekomst vooruitzicht van de bewapening van de nanotechnologie en biotechnologie. The Economist stelde dat “Bostrom wordt gedwongen om een groot deel van het boek bespreken speculaties gebouwd door te brengen upon plausibel vermoeden… maar het boek is toch waardevol. de gevolgen van de invoering van een tweede intelligente soort op aarde zijn ver genoeg om hard te denken verdient, ook al is het vooruitzicht van het daadwerkelijk te doen op afstand lijkt het. ” Ronald Bailey schreef in de libertaire Reden dat Bostrom maakt een sterke zaak dat het oplossen van de bestrijding van aviaire influenza probleem is de “essentiële taak van onze tijd”. Volgens Tom Chivers van The Daily Telegraph, het boek is moeilijk te lezen, maar toch de moeite waard.

Referenties

 

• Financial Times beoordeling, juli 2014
• “Superintelligentie: Paths, Gevaren, Strategies (Synopsis uitgever)”. Ontvangen 30 juli 2014. Het menselijk brein heeft een aantal mogelijkheden die de hersenen van andere dieren missen. Het is om deze onderscheidende mogelijkheden die onze soort dankt haar machtspositie. Als de machine hersenen menselijke hersenen overtroffen in algemene intelligentie, dan zou deze nieuwe superintelligentie uiterst krachtige geworden – eventueel buiten onze controle. Aangezien het lot van de gorilla hangt nu meer op de mens dan van de soort zelf, dus ik zou het lot van de mensheid hangt af van de acties van de machine superintelligentie.
• Henderson, Caspar (17 juli 2014). “Superintelligentie door Nick Bostrom en A Rough Ride to the Future door James Lovelock – beoordeling” The Guardian.. Ontvangen 11 oktober 2015.
• “Superintelligente Zweed opgepikt door OUP”.
• “Superintelligentie Audiobook – Nick Bostrom – Audible.com” Audible.com..
• “Best Selling Science Books”. New York Times. New York Times. 8 september 2014. Ontvangen 9 november 2014.
• ‘Kunstmatige intelligentie’ kan veeg uit de mensheid ”. The Times.
• Gevaarlijker dan nukes “” “Elon Musk tweets Artificial Intelligence kunnen worden”. 4 augustus 2014.
• “The New York Times Blog”. The New York Times. Ontvangen 4 maart 2015.
• “Forbes”. Forbes. Ontvangen 19 februari 2015.
• “De Fiscale Times”. De Fiscale Times. Ontvangen 19 februari 2015.
• “Baidu CEO Robin Li interviews Bill Gates en Elon Musk in het Boao Forum, 29 maart 2015”. YouTube. Ontvangen 8 april 2015.
• Guardian beoordeling, juli 2014.
• “Clever radertjes”. The Economist. 9 augustus 2014. Ontvangen 9 augustus 2014. Het kan een esoterisch, zelfs iets gek, onderwerp lijken. En een groot deel van de taal van het boek is technisch en abstract (lezers moeten kampen met ideeën, zoals ‘doel-integriteit van de inhoud “en” indirecte normativiteit “). Omdat niemand weet hoe zo’n AI zou kunnen worden gebouwd, wordt de heer Bostrom gedwongen om een groot deel van het boek bespreken speculaties gebouwd op plausibel vermoeden te brengen. Hij is eerlijk genoeg om het probleem het hoofd-on te confronteren, de toelating van bij het begin dat “veel van de punten die in dit boek zijn waarschijnlijk verkeerd.” Maar het boek is toch waardevol. De gevolgen van de invoering van een tweede intelligente soort op aarde zijn verstrekkend genoeg om hard te denken verdient, ook al is het vooruitzicht van het daadwerkelijk te doen zo ver lijkt. Proberen om een deel van dat denken te doen van tevoren kan alleen een goede zaak zijn. Gesyndiceerde op Business Insider
• Bailey, Ronald (12 september 2014). “Will superintelligente Machines Destroy Humanity? ‘. Reden (tijdschrift). Ontvangen 16 september 2014.

Chivers, Tom (10 augustus 2014). “Superintelligentie door Nick Bostrom, beoordeling: ‘een harde read'”. Ontvangen 16 augustus 2014. Als u op zoek bent naar een vriendelijke, toegankelijke inleiding tot AI problemen, dan is dit waarschijnlijk niet de plek om te beginnen. Maar als je geïnteresseerd bent in dit onderwerp bent, en je bent bereid om een beetje van mentale voorwerk doen bent, is het de moeite waard.