Mens in de loop en beperkingen van modellen

Olivier Rikken is terug in de Cryptocast. Eerder spraken we hem over tokenisatie en DAO’s, oftewel Decentralized Autonomous Organisations. Dit keer staat een volgende stap centraal: zogeheten ‘zero human companies’. Bedrijven die volledig draaien op AI-agents, zonder directe menselijke aansturing in de dagelijkse operatie. De vraag is hoe groot het verschil is met DAO’s, en of de snelle ontwikkeling van AI deze nieuwe vorm van organiseren mogelijk maakt.

Waar DAO’s draaien op regels in smart contracts en menselijke deelnemers, verschuift de nadruk hier naar autonome software die zelf beslissingen neemt. Die ontwikkeling hangt nauw samen met de opkomst van AI-agents, die de afgelopen tijd een stuk capabeler zijn geworden. Daarmee ontstaat ruimte voor experimenten waarin AI niet alleen ondersteunt, maar daadwerkelijk uitvoert. Rikken is zo’n experiment gestart en bouwt aan een organisatie waarin agents samenwerken, taken verdelen en beslissingen nemen.

Dat roept direct vragen op over de rol van crypto en blockchain. Die infrastructuur maakt het mogelijk voor agents om transacties te doen, wallets te beheren en onderling waarde uit te wisselen. Volgens Rikken zouden de volgende miljard gebruikers van crypto-wallets weleens geen mensen kunnen zijn, maar AI-systemen. Tegelijkertijd is het de vraag in hoeverre AI op dit moment al betrouwbaar genoeg met zulke financiële handelingen kan omgaan.

Ook op juridisch en fiscaal vlak schuurt het. Wat gebeurt er als AI-agents zelfstandig een cryptobedrijf opzetten? En wie is er verantwoordelijk als er iets misgaat? Moeten deze systemen belasting betalen, en zo ja, wie draagt die plicht? Die vragen zijn nog grotendeels onbeantwoord, terwijl de technologie zich snel ontwikkelt.

Rikken neemt ons mee in zijn eigen experiment, dat inmiddels een paar weken loopt. Hoe begin je met zo’n bedrijf, welke taken laat je over aan AI en waar grijp je zelf nog in? Daarbij komen ook praktische zaken kijken: hoe agents met elkaar communiceren, hoe je processen inricht en hoe je controle houdt over het geheel. Dat die controle niet vanzelfsprekend is, bleek toen het account van een ‘CFO-agent’ werd leeggehaald.

Technisch zijn er nog duidelijke beperkingen. Niet alles kan al volledig autonoom en er zijn verschillende gradaties in hoe zelfstandig agents opereren. Tegelijkertijd wordt gewerkt aan systemen waarin agents elkaar kunnen aansturen, beoordelen en zelfs belonen.

De grotere vraag is wat dit betekent voor de toekomst van bedrijven. Als AI-systemen zelfstandig waarde kunnen creëren en onderling zaken kunnen doen, verandert dat de manier waarop organisaties worden ingericht. Volgens Rikken vraagt dat ook een andere manier van denken: niet hoe AI de mens ondersteunt, maar hoe de mens van waarde kan zijn in een wereld waarin AI steeds zelfstandiger opereert. Co-host is Mauro Halve.

Over de podcast 

Cryptocurrency are here to stay. In deze wekelijkse podcast gidst Daniël Mol je door het belangrijkste cryptonieuws, langs hypes en trends, voor- en tegenstanders en winst en verlies. In het A-deel bespreken we het laatste nieuws en in het B-deel gaan we in gesprek met een gast. Van cypherpunkpioneers tot grootbanken die aan de haal gaan met stablecoins, van Bitcoin tot Ethereum tot CBDC's. Alles passeert de revue.

Reageren? Stuur dan een mail naar cryptocast@bnr.nl  

Gasten 

• Olivier Rikken is ondernemer en wetenschapper op het gebied van blockchain, AI en quantum.
• Mauro Halve is voorzitter van branchevereniging VBNL

Links

Dutch Zero Human Company

Zelf aan de slag via Polsia

Host 

• Daniel Mol is redacteur en presentator van de Cryptocast. Hij is sinds 2017 met Bitcoin bezig en kwam in 2021 bij het team van de Cryptocast. 

Redactie 

• Daniel Mol 
• Matthijs Damsteeg

See omnystudio.com/listener for privacy information.