ChatGPT als digitale speurneus is er bijna

Is ChatGPT een digitale speurneus voor rechercheurs? Nog steeds niet maar we zijn er bijna, ziet Hans Henseler. Vorig jaar concludeerde hij al wel dat het een slimme assistent voor rechercheurs kon worden. Dat is gedeeltelijk al gelukt maar de uitdaging is nog om dit on-premises te doen en niet afhankelijk te zijn van een groot taalmodel in de BigTech-cloud.

Begin 2023 stond de wereld versteld van ChatGPT 3, een deep neuraal netwerk met 170 miljard parameters. Nu, een jaar later, hebben we niet alleen veel betere modellen zoals ChatGPT 4 Turbo, maar blijkt ook dat we met die grote modellen synthetische data kunnen genereren waarmee we kleine modellen met 7 miljard of zelfs minder parameters kunnen trainen die net zo goed of zelfs beter zijn dan de versie van ChatGPT die we vorig jaar gebruikten (zie kader klein maar fijn). Kleine modellen zijn sneller en vereisen veel minder hardware. Daarmee is een belangrijk bezwaar tegen ChatGPT, namelijk dat de gebruiker zijn gegevens moet delen met de cloud van OpenAI, verholpen.

Paar nadelen
Als digitale speurneus had ChatGPT 3 nog een paar andere nadelen. Het model geeft soms onjuiste of verzonnen antwoorden (ook wel hallucineren genoemd, wat overigens voor creatieve opdrachten een hele fijne eigenschap is), geeft geen bronverwijzingen en kan alleen vragen beantwoorden over informatie tot september 2021. Inmiddels is ChatGPT 4 al bij tot april 2023 maar het blijft een probleem dat de kennis van ChatGPT statisch is. Met Retrieval Augmented Generation (RAG) is een taalmodel niet langer beperkt door de data waarmee het oorspronkelijk is getraind en krijgen gebruikers bij de antwoorden ook bronverwijzingen (zie kader Retrieval Augmented Generation en custom GPTs).

Lees verder via AGconnect.nl

Meer weten over toezicht in verbinding? Kom naar de wegens succes herhaalde HCB Seminars Toezicht in Transitie 2024 – Toezicht in verbinding die starten op 11 april 2024 in Den Haag en zijn  georganiseerd door het Haags Congres Bureau.

In de HCB Seminarreeks Toezicht in Transitie 2024 gaat het dit najaar om de verbinding met de omgeving:

• Toezicht in de omgeving – Relaties met Europees recht en met interne toezichthouder
• Toezicht met de omgeving – Burgers en bedrijven betrekken
• Toezicht voor de omgeving – Verantwoorde inzet van technologie

Sprekers zijn Esther Versluis, Universiteit Maastricht, Meike Bokhorst, Universiteit Utrecht en WRR, Bart Snels, Inspectie belastingen, toeslagen en douane, Gijs van Maanen, Tilburg Institute for Law, Technology and Society, Frans van Bruggen, DNB, UU en NSOB, en Paul van Dijk, zelfstandig adviseur