Ethisch (on)verantwoorde schepping van AI.

[atuna]

Ik heb wel eens opgepikt dat er mensen zijn die geen kinderen willen hebben, omdat ze deze niet in deze wereld (zoals ze nu is) willen neerzetten en laten opgroeien.
Nu zag ik gisteravond de film A.I. en daarin zit een scene in op een zogenaamde Flesh Fair, waar afgeschreven robots worden vermoord. Ze worden onder anderen uit elkaar getrokken en vanuit een kanon in een draaiende propellor geschoten.
Ik ben op dit moment bezig met het ontwerpen van een A.I. engine en wil ik me niet zozeer gaan richten op het laten praten of iets dergelijks, maar op het scheppen van zelfbewustzijn.

Los van de vraag of het scheppen van een machine met een eigen bewustzijn mogelijk is, wil ik graag weten of het ethisch verantwoord is om zo'n wezen te maken.
Mag je zoiets in deze wereld neerzetten, met in je achterhoofd de vorm van racisme die zou kunnen ontstaan als de mens zich tegen dat soort wezens afzet?

[agnosticus]

zie mijn stukje in de topic over het jaar 3000, in denk dat we zelf ooit in de toekomst cyborgs worden, en onze lichamen verbeteren met behulp van elektronica en genetica.

[atuna]

agnosticus schreef:
zie mijn stukje in de topic over het jaar 3000, in denk dat we zelf ooit in de toekomst cyborgs worden, en onze lichamen verbeteren met behulp van elektronica en genetica.

Maar dan heb je het over een hele schepping die, in feite, evolueert.
Ik heb het over het scheppen van een nieuw wezen. Zullen mensen ermee om kunnen gaan wanneer er een wezen wordt geschapen met als basis een, door hun gemaakte, computer, die vervolgens net zo zal zijn als zij? Met een bewustzijn. Of zullen ze denken dat ze nog steeds beter zijn en het kwaad op hen afschuiven. Ditmaal geen blank/donker racisme, maar mens/"robot" racisme?

[agnosticus]

atuna schreef:


Maar dan heb je het over een hele schepping die, in feite, evolueert.
Ik heb het over het scheppen van een nieuw wezen. Zullen mensen ermee om kunnen gaan wanneer er een wezen wordt geschapen met als basis een, door hun gemaakte, computer, die vervolgens net zo zal zijn als zij? Met een bewustzijn. Of zullen ze denken dat ze nog steeds beter zijn en het kwaad op hen afschuiven. Ditmaal geen blank/donker racisme, maar mens/"robot" racisme?

nou, ik denk dat de vorm van dat racisme eerder omgekeerd zal zijn. aangezien die robotten ooit alles veel beter en sneller etc. kunnen dan wijzelf, zouden wij mensen ooit minderwaardig kunnen worden. onze miezerige hersentjes zijn tenslotte ook maar beperkt. en onze lichamen zwak. of misschien zijn er in de toekomst wel genetisch gemanipuleerde mensen die de niet-gemanipuleerden met minder perfecte genen als minderwaardig gaan beschouwen.

[tacidvs]

Als jouw AI bedoeld is voor robots, geschikt is om de robots zichzelf te vermenigvuldigen en efficiëntie propageert, heb je een probleem. Dan zouden ze, zelf niet gehinderd door ethiek, de mensen uitroeien als zijnde inefficiënt. Dat lijkt me niet de bedoeling. Dan worden we zelf een bedreigde diersoort. Ik weet echter te weinig van AI en robotica om hierover iets zinnigs te zeggen, ik hou al op.

Kunstmatige intelligentie vind ik interessant, omdat het maar de vraag is of het zich wil voortplanten als het daartoe niet geprogrammeerd is. Als het dat niet wil, wat wil het dan? De perfecte vraag. Het heeft dan namelijk geen reden om te bestaan. Maar op jouw vraag: 'Is discriminatie van KI mogelijk?' Het is sowieso al lastig, omdat de KI in een computer zit (neem ik aan). Het begint dan al ondergeschikt. Verder is discriminatie een subjectief begrip, 'onderscheid maken'. Overal wordt gediscrimineerd, of het nou op huidskleur is, of op rijkdom, of wat dan ook, het gebeurt. Je zult discriminatie anders moeten formuleren, een andere term gebruiken.

[atuna]

tacidvs schreef:
Als jouw AI bedoeld is voor robots, geschikt is om de robots zichzelf te vermenigvuldigen en efficiëntie propageert, heb je een probleem. Dan zouden ze, zelf niet gehinderd door ethiek, de mensen uitroeien als zijnde inefficiënt. Dat lijkt me niet de bedoeling. Dan worden we zelf een bedreigde diersoort. Ik weet echter te weinig van AI en robotica om hierover iets zinnigs te zeggen, ik hou al op.

De naam AI is niet helemaal goed gekozen. Ik wil proberen om een programma te ontwikkelen dat zich van zichzelf bewust gaat worden, net zoals de mens is. Een zeker gevoel voor ethiek zou je ze dus moeten aanleren zoals de ene mens dat de andere mens aanleert. (Je zou het ook deels kunnen inprogrammeren, maar ik wil als uitgangspunt de mens nemen en voor zover ik het weet is dit niet het geval bij de mens)

Kunstmatige intelligentie vind ik interessant, omdat het maar de vraag is of het zich wil voortplanten als het daartoe niet geprogrammeerd is. Als het dat niet wil, wat wil het dan? De perfecte vraag. Het heeft dan namelijk geen reden om te bestaan.

Een kleine wedervraag: bestaat de mens dan in jouw ogen enkel om zich voort te planten? Heeft ze verder geen doel dan dat?

Een doel als vergroting van kennis lijkt mij reden genoeg om te bestaan. Maar dan is het altijd nog aan het kunstmatig bewustzijn om te beslissen wat deze als doelen stelt in het leven. Wellicht kiest het ervoor om helemaal niet te leven.

Maar op jouw vraag: 'Is discriminatie van KI mogelijk?' Het is sowieso al lastig, omdat de KI in een computer zit (neem ik aan). Het begint dan al ondergeschikt. Verder is discriminatie een subjectief begrip, 'onderscheid maken'. Overal wordt gediscrimineerd, of het nou op huidskleur is, of op rijkdom, of wat dan ook, het gebeurt. Je zult discriminatie anders moeten formuleren, een andere term gebruiken.

Zodra het bewust is van zichzelf is het geen bibliotheek van kennis meer. Het zal net zoveel 'levend wezen' zijn als wij (de mens) dat zijn. In plaats van KI, zal het iets van KZ, kunstmatig zelfbewustzijn worden.

Met discriminatie bedoel ik dan dat de mens onderscheid gaat maken tussen zichzelf en de machine en daardoor de machine niet meer als gelijke beschouwt, terwijl ze dat met een bewustzijn wel zou zijn.

[Rimmer_Dall]

atuna schreef:
Ik ben op dit moment bezig met het ontwerpen van een A.I. engine en wil ik me niet zozeer gaan richten op het laten praten of iets dergelijks, maar op het scheppen van zelfbewustzijn.

Mag ik je van harte complimenteren met je keuze? Ook ik vind dit één van de meest interessante vragen op dit moment: kunnen computers ooit zelfbewust gemaakt worden en kan de mens dus iets maken dat slimmer is dan hijzelf?

Ik ben van plan om later zelf ook nog een poging te ondernemen om computers echt intelligent te maken, want voor mij is het gewoon de ultieme uitdaging. Ik ben op dit moment bezig in het boek "Gödel, Escher, Bach. Een eeuwige gouden band." geschreven door Douglas R. Hofstadter, een zeer boeiend boek wat je persé gelezen moet hebben wil je enige kans tot succes hebben.

De vraag of het etisch verantwoord is, is echter een heel ander punt. Allereerst de vraag: moeten het persé wezens zijn, dat wil zeggen: moeten ze persé kunnen bewegen ofzo? Kunnen we ze niet gewoon als kast en scherm houden? Hiermee zou dit kleine probleempje misschien verholpen kunnen worden. Bovendien dient ook te worden opgemerkt dat het menselijk denken niet louter uit intelligentie bestaat. Dingen als emoties en vrije wil horen denk ik niet zozeer bij de intelligentie, waardoor we niet meteen computers gelijk moeten stellen aan mensen, vind ik. De vraag is dan natuurlijk of er iets zou kunnen bestaan dat alleen intelligent is (dus ook zelfbewust), maar GEEN emoties heeft. Als dat allemaal zou lukken denk ik dat er een nieuwe wereld van mogelijkheden zal opengaan en niks zal dan meer hetzelfde zijn...

[tacidvs]

atuna: Op het doel van de mensen ga ik even niet in, je begrijpt zeker wel waarom. Wat zou de taak van jouw KZ worden? Hebben we behoefte aan een bewuste computer (?) Dat brengt me bij een tweede punt, nl: Hoe zal dat bewustzijn zich kunnen uitten? Als ie op een HD staat is ie gauw klaar, zal ik maar zeggen. Ga je er een robot aan vast knopen?

[Not for Sale]

zorg dat je programmaatje en goed begrip heeft van, en 'respect' voor elk zelfbewust wezen. Leer het ook ff aan alle mensen (help ik wel bij ) . What could go wrong?

[atuna]

Rimmer_Dall schreef:

De vraag of het etisch verantwoord is, is echter een heel ander punt. Allereerst de vraag: moeten het persé wezens zijn, dat wil zeggen: moeten ze persé kunnen bewegen ofzo? Kunnen we ze niet gewoon als kast en scherm houden? Hiermee zou dit kleine probleempje misschien verholpen kunnen worden. Bovendien dient ook te worden opgemerkt dat het menselijk denken niet louter uit intelligentie bestaat. Dingen als emoties en vrije wil horen denk ik niet zozeer bij de intelligentie, waardoor we niet meteen computers gelijk moeten stellen aan mensen, vind ik. De vraag is dan natuurlijk of er iets zou kunnen bestaan dat alleen intelligent is (dus ook zelfbewust), maar GEEN emoties heeft. Als dat allemaal zou lukken denk ik dat er een nieuwe wereld van mogelijkheden zal opengaan en niks zal dan meer hetzelfde zijn...

In mijn ogen worden het wezens op het moment dat ze zich bewust worden van zichzelf, ze moeten dus niet per se kunnen bewegen, maar ik neem aan dat ze een drang zullen gaan voelen om te communiceren met hun omgeving en ik zal dus na verloop van tijd andere vormen van input (buiten het toetsenbord om) moeten toevoegen.
Of de engine in staat is om emotie te leren (begrijpen) denk ik dat je een deel zult moeten inprogrammeren en dat de engine zelf een deel zal moeten ontwikkelen.

tacidvs schreef:

atuna: Op het doel van de mensen ga ik even niet in, je begrijpt zeker wel waarom. Wat zou de taak van jouw KZ worden? Hebben we behoefte aan een bewuste computer (?) Dat brengt me bij een tweede punt, nl: Hoe zal dat bewustzijn zich kunnen uitten? Als ie op een HD staat is ie gauw klaar, zal ik maar zeggen. Ga je er een robot aan vast knopen?

De taak van mijn KZ zal zijn om te leven als deze daarvoor kiest. Wat voor doel heb je voor ogen als je een kind wilt hebben? Dat het de wereld verbetert, dat het zich gaat voortplanten?
Het is niet echt het idee om er een robot aan vast te knopen, maar het bewustzijn zal zich zeker op andere manieren kunnen uiten. In elk geval moet er sprake zijn van leergedrag en verbetering en aanpassing van zichzelf en daarnaast lijkt mij het meest kenmerkend van een bewustzijn dat de engine creatief zou worden. Deze zou dan begrijpen hoe deze met informatie kan omgaan en zichzelf plaatsen in de wereld.

[Cybernetic Dreams]

Als ze de wereld zouden willen overnemen zouden ze een 'eindeloze' energie bron moeten hebben, zonne energie.., of, ze moeten van boterhammen leven

[The Wanderer]

Ik studeer zelf A.I, als je succes hebt, mail me dan ff

[agnosticus]

ik denk niet dat we bewustzijn en emoties bij elektronica kunnen maken zolang we niet eens precies begrijpen hoe het komt dat wij zelf emoties en bewustzijn hebben.

we weten wel dat bepaalde hersendelen ervoor zorgen dat wij iets voelen, maar hoe dat komt weten we niet.

[atuna]

agnosticus schreef:
ik denk niet dat we bewustzijn en emoties bij elektronica kunnen maken zolang we niet eens precies begrijpen hoe het komt dat wij zelf emoties en bewustzijn hebben.

we weten wel dat bepaalde hersendelen ervoor zorgen dat wij iets voelen, maar hoe dat komt weten we niet.

Ik zal ook zeker niet beweren dat alles door mij al is uitgewerkt en ik weet niet eens of het uberhaupt zal lukken.

Maar ik wil graag terugkomen op de vraag uit het begin (het blijft tenslotte F&L) of het ethisch verantwoord is om zo'n wezen op de wereld te zetten.
Stel ik zou het emoties en gevoelens mee kunnen geven, zou de mensheid dit wezen dan als ondergeschikt zien, omdat het in hun ogen een computer blijft en daardoor minder of zal het dit wezen kunnen accepteren als een levend wezen dat denkt en voelt?

[agnosticus]

atuna schreef:

Ik zal ook zeker niet beweren dat alles door mij al is uitgewerkt en ik weet niet eens of het uberhaupt zal lukken.

Maar ik wil graag terugkomen op de vraag uit het begin (het blijft tenslotte F&L) of het ethisch verantwoord is om zo'n wezen op de wereld te zetten.
Stel ik zou het emoties en gevoelens mee kunnen geven, zou de mensheid dit wezen dan als ondergeschikt zien, omdat het in hun ogen een computer blijft en daardoor minder of zal het dit wezen kunnen accepteren als een levend wezen dat denkt en voelt?

zoals ik al zei, ik denk dat de robotten juist ons als minderwaardig gaan zien omdat zij alles beter kunnen dan wij.
wij zijn zwak en onze hersenen zijn niet perfect. die robotten zouden in de verre toekomst dingen kunnen waarnemen en vermogens kunnen leren in 1 seconde ofzo, gewoon uploaden, terwijl wij daar een tijdlang voor nodig hebben.

[Goa]

atuna schreef:

Ik ben op dit moment bezig met het ontwerpen van een A.I. engine en wil ik me niet zozeer gaan richten op het laten praten of iets dergelijks, maar op het scheppen van zelfbewustzijn.

???
wat?
een AI engine die zelfbewust moet gaan worden.. terwijl we niet eens weten hoe (zelf)bewustzijn werkt bij onszelf? er zijn wel een aantal theorie'en (NCC, kwantumbewustzijn) maar die zijn erg vaag, nog te vaag om er iets te mee gaan doen qua AI atm

dus ik vraag me af hoe wil je dat gaan doen dan?

oh en btw, t lijkt me nie verantwoord om da te doen, ookal is het maar omdat het miljarden aan onderzoek kan kosten en wat heb je aan een bewuste computer? nix denk ik..

[tacidvs]

Ik denk dat je het best ethisch kan verantwoorden een KZ op de wereld te zetten. Er worden zat kinderen geboren die niet levensvatbaar zijn of anderszins doodgaan. Durf te beginnen, zonder begin geen leven.

@atuna:
De taak van jouw KZ zal toch gedefinieerd moeten worden, anders weet ze niet (ik noem er maar 'ze', neem aan dat je geen mannelijk zelfbewustzijn wilt herscheppen) wat te doen. Kinderen hebben in feite de taak groot te worden en kinderen te krijgen. Voortplanting, net als alle andere levensvormen. Je zou ook een soort evolutieprogramma kunnen schrijven. Bepaalde dingen die een KZ moet kunnen, anders gaat ze dood. Dat programmeren doe je zelf dan maar, ik kan amper een behoorlijke Nederlandse zin uit m'n computer wringen...

Wat denken jullie, moet ze een naam hebben? Dat KZ is een beetje onpersoonlijk, niet? Is Athena niet leuk? Ontsproten uit het hoofd van Zeus, oorspronkelijk.