Waarom integriteit en positiviteit belangrijk zijn bij kunstmatige intelligentie

Kunstmatige intelligentie waar rechten niet by-design in zit opgenomen kan tot uitkomsten komen die de programmeur niet voorzien heeft. Er is gelukkig een manier om ongewenste uitkomsten zoveel mogelijk te voorkomen. Dat is door als programmeur integer en positief te zijn in de doelstellingen die je met de kunstmatige intelligentie nastreeft.

Wie nu direct denkt aan vreedzame toepassingen voor kunstmatige intelligentie zit goed. Het maakt niet uit of de programmeur daarbij denkt aan daadwerkelijke vreedzame toepassingen of dat het juist voor niet vreedzame toepassingen zal zijn. Je denkt aan vreedzame toepassingen dat is waar je continu aan toetst. Aan iets dat positief is.

Het is daarom veel beter om aan integriteit te denken of het mogelijke gebrek eraan. Integriteit betekent eerlijk en oprecht zijn en niet omkoopbaar. Of te wel. Alleen die uitkomsten accepteren die eerlijk en oprecht zijn en enkel voordelige uitkomsten accepteert die voor het volledige systeem positieve gevolgen hebben.

Nu zullen er ook mensen zijn die aan bepaalde films denken waarbij kunstmatige intelligentie zich niet goed gedraagt en zich zelfs tegen de mensheid keert. Dat kan gebeuren. Daarom is het zo belangrijk dat er continu wordt getoetst aan wat integer en positief is. Dat moet de gouden standaard zijn bij kunstmatige intelligentie.

Wanneer kunstmatige intelligentie zich dan afwijkend gedraagt dan valt de meteen op. Daarnaast is dan ook duidelijk welke kant de kunstmatige intelligentie zich wél naar toe moet bewegen. Dat zal dan in alle gevallen integer en positief zijn en méér zal lijken op de standaard.

Een mooi voorbeeld van kunstmatige intelligentie die ontspoord is die ik laatst las was waarbij de doelstelling was om een goede pannenkoek te krijgen, waarbij er werd getoetst aan de tijd dat het duurde dat de pannenkoek op het bord lag.

In plaats van de pannenkoek zo lang mogelijk in de pan te houden, zorgde er voor dat het zo lang mogelijk duurde om de pannenkoek op het bord te krijgen door de tafel waar het bord op stond zo verder weg mogelijk neer te zetten zodat de pannenkoek zo lang mogelijk door de lucht vloog en dus nog niet op het bord lag.

De bewuste toepassing van de kunstmatige intelligentie ken ik niet en ook niet de uitkomsten. Wel is het voordeel dat de kunstmatige intelligentie beoogde te behalen duidelijk. Wanneer de pannenkoek in de pan ligt moet er energie (warmte) aan worden toegevoegd (door gas te verbranden of elektriciteit in warmte om te zetten).

De hoeveelheid energie die het kost om de pannenkoek door de lucht te gooien is per tijdseenheid véél kleiner. Het is daarom logisch voor de kunstmatige intelligentie om op die manier zoveel mogelijk tijd te gebruiken in plaats van kostbare tijd in de pan.

Een manier om dat te voorkomen zou kunnen zijn door de kwaliteit van de pannenkoek die op het bord ligt en de veiligheid van de omgeving centraal te stellen. Een pannenkoek die goed gebakken is én niet onnodig door de lucht vliegt beantwoord aan die vraag. Daarnaast is het gebruik van resources ook belangrijk.

Daarom is het essentieel om daar een goede afweging tussen de verschillende belangen te kunnen maken. De perfecte pannenkoek is immers niet alleen goed gebakken en veilig op het bord terecht gekomen. Hij moet ook een goede prijs-kwaliteit verhouding hebben. Dat brengt mij weer op mijn eerste artikel over kunstmatige intelligentie waarom rechten de beste opleiding is voor programmeurs van kunstmatige intelligentie.