.png)
DeepSeek, ChatGPT en de toekomst van AI
De revolutie van distillatiemodellen en de Europese struikelblokken
Iedereen heeft een mening over DeepSeek. Uiteraard Wouter Verlinden ook!
Dankzij de innovatie van DeepSeek zijn de kosten voor het trainen van geavanceerde AI-modellen dramatisch gedaald. Waar vroeger alleen kapitaalkrachtige techgiganten zoals OpenAI, Meta en Google de middelen hadden om hypermoderne AI-systemen te ontwikkelen, wordt het nu steeds eenvoudiger om nieuwe modellen te trainen. Dit heeft het potentieel om een Cambrische explosie aan AI’s te veroorzaken, met als gevolg een diversiteit aan modellen die zich razendsnel verspreiden en innoveren. Vermoedelijk zal niet iedereen met een OpenAI-model blijven werken. Diversiteit op de werkvloer, ook voor onze AI-collega's! Voor de mensheid is dit een positieve ontwikkeling, maar voor de gevestigde Amerikaanse big tech-bedrijven is het een nachtmerrie: de exclusieve controle die ze dachten te behouden, glipt hen door de vingers.
Na de oude industrie als staal, scheepvaart en de automobielindustrie steekt China nu het westen ook voorbij in robots en AI. Gelukkig kunnen we in Europa nog goed handtassen maken.
De opkomst van distillatiemodellen
Een van de oorzaken van deze kostenverminderingen is de opkomst van distillatiemodellen. Dit zijn modellen die getraind worden door andere modellen, een proces dat doet denken aan het onderwijssysteem waarin biologische neurale netwerken elkaar opleiden. DeepSeek, een Chinese AI-ontwikkelaar, lijkt deze techniek al te gebruiken om nieuwe versies van hun eigen modellen te trainen. Uiteraard is dit in strijd met de terms of service van OpenAI en Meta. Maar dit betekent dat een AI-model zichzelf kan verfijnen en verbeteren, zonder dat er menselijke tussenkomst nodig is. Hiermee bevinden we ons op het punt van een technologische 'liftoff', waarbij AI’s AI’s trainen en de ontwikkeling exponentieel versnelt.
Wat een tijd om te leven! Raketten, AI, elektrische fietsen, flatscreens, gsm’s, … Wie had ooit gedacht dat science fiction, non fiction zou worden ?
Waarom gebeurt dit niet in de EU?
In de Verenigde Staten en China worden nieuwe AI-ontwikkelingen razendsnel doorgevoerd, terwijl Europa zichzelf buitenspel zet. De Europese AI Act, bedoeld om transparantie en veiligheid te waarborgen, legt strenge eisen op aan de trainingsdata en het gebruik van General AI-modellen. Niet alleen moet de trainingsdata voldoen aan de copyrightwetgeving (hoe begin je daaraan als de trainingsdata het hele internet en alle boeken omvat?), maar ook moet alle trainingsdata worden bijgehouden. Dit maakt distillatie in de praktijk quasi onmogelijk, omdat de herkomst en verwerking van trainingsdata niet meer eenvoudig te achterhalen is. AI-leerkracht-leerlingtraining gebeurt rechtstreeks op het niveau van de digitale neuronen en heeft niet onmiddellijk een menselijk leesbaar equivalent. Terwijl de rest van de wereld experimenteert en innoveert, blokkeert Europa zichzelf met regelgeving die in wezen al verouderd is op het moment van implementatie.
Lessen uit de geschiedenis
De situatie in Europa doet denken aan het Nederlandse octrooirecht tussen 1869 en 1912. In deze periode schafte Nederland het octrooirecht af onder invloed van vrije marktadepten bij de liberalen. Dit gaf bedrijven zoals Philips (°1891) de kans om zich snel te ontwikkelen en een industrieel zwaargewicht te worden. ASML, On semiconductor, Signify en NXP zijn hier rechtstreekse gevolgen van.
Een zelfde situatie bij Nordisk (en zijn concurrent Novo, die later zouden fuseren). Medicijnen zoals insuline waren niet patenteerbaar (het productieproces echter wel). Het niet-patenteerbaar zijn van medicijnen in het begin van de 20e eeuw gaf Nordisk ruimte om zonder juridische obstakels insuline te produceren en zichzelf te positioneren als een marktleider. De Amerikaanse patenthouder Eli Lili en Novo Nordisk domineren nu nog altijd deze gigantische markten, meer dan 120 jaar later.
Europa kan eenzelfde koers varen en alle copyrightbeperkingen en trainingsvereisten op AI-trainingen opheffen. Distillatie maakt het mogelijk om zelfs met een achterstand concurrerende modellen te bouwen, maar de huidige wetgeving verhindert deze ontwikkelingen. Het is niet dat de Amerikaanse en Chinese modelbouwers zich aan de Europese wetgeving houden.
Als we willen dat alles blijft zoals het is, moet alles anders worden.
Auteur: Wouter Verlinden
Datum: 29/01/2025
