Belangrijke ontwikkelingen op het gebied van generatieve AI tijdens mijn zomervakantie

Tijdens mijn zomervakantie heb ik nauwelijks ontwikkelingen op het gebied van generatieve AI bijgehouden. Gelukkig helpt generatieve AI bij het snel verkrijgen van een overzicht van belangrijke ontwikkelingen op dit terrein, zodat je snel weer up to date bent. In deze blogpost vind je de m.i. het belangrijkste nieuws. Ik beschrijf ook hoe ik Claude hiervoor heb gebruikt.

Ik heb 37 ontvangen nieuwsbrieven geëxporteerd naar pdf. Vervolgens heb ik binnen Claude een project aangemaakt met een instructie om op basis van de nieuwsbrieven ontwikkelingen te gaan beschrijven. Daarna heb ik Claude 3.5 Sonnet een aantal vragen gesteld zoals ‘Wat zijn de belangrijkste ontwikkelingen op het gebied van Open AI, ChatGPT en GPT?’ en ‘Wat zijn de belangrijkste ontwikkelingen op het gebied van AI-gegenereerde afbeeldingen?’

Hieronder vind je een selectie van de antwoorden (door mij selectief gecheckt en enigszins aangepast):

Nieuws over OpenAI en ChatGPT

1. Lancering van GPT-4o mini

OpenAI heeft een nieuwe, compacte versie van hun GPT-4o model gelanceerd, genaamd GPT-4o mini. Dit model is ontworpen om AI toegankelijker te maken voor ontwikkelaars en bedrijven. Het is aanzienlijk goedkoper in gebruik dan zijn voorganger GPT-3.5 Turbo, met prijzen van 15 cent per miljoen invoertokens en 60 cent per miljoen uitvoertokens. Ondanks zijn kleinere formaat presteert GPT-4o mini beter dan concurrerende modellen zoals Google’s Gemini Flash en Anthropic’s Claude Haiku op belangrijke benchmarks. Het model ondersteunt een contextvenster van 128.000 tokens en kan zowel tekst als visuele invoer verwerken. OpenAI plant ook toekomstige updates voor audio- en videomogelijkheden.

Deze ontwikkeling is belangrijk omdat het de drempel voor AI-integraties aanzienlijk verlaagt. Het maakt geavanceerde AI-technologie betaalbaarder en toegankelijker voor een breder scala aan toepassingen, wat kan leiden tot meer innovatie en praktisch gebruik van AI in verschillende sectoren.

Bron: The Rundown AI, 19 juli 2024

2. Introductie van SearchGPT

OpenAI heeft een prototype van een AI-aangedreven zoekmachine genaamd SearchGPT aangekondigd. Deze tool combineert krachtige AI-modellen met informatie rechtstreeks van het internet om gebruikers tijdige antwoorden te geven uit relevante bronnen. SearchGPT organiseert zoekresultaten in samenvattingen met attributielinks en stelt gebruikers in staat vervolgvragen te stellen, vergelijkbaar met de AI-startup Perplexity. Het prototype wordt aangedreven door GPT-4 en zal in eerste instantie beschikbaar zijn voor 10.000 testgebruikers. OpenAI is van plan om de functies van SearchGPT uiteindelijk direct in ChatGPT te integreren.

Deze ontwikkeling daagt de dominantie van traditionele zoekmachines zoals Google uit en zou kunnen leiden tot een meer interactieve en gepersonaliseerde zoekervaring.

Bron: The Rundown AI, 26 juli 2024

3. Plannen voor eigen AI-chip ontwikkeling

Volgens berichten is OpenAI in gesprek met chipfabrikanten zoals Broadcom om een eigen AI-chip te ontwikkelen. Dit initiatief is gericht op het verminderen van de afhankelijkheid van schaarse en dure GPU’s van Nvidia. OpenAI heeft al voormalige Google-medewerkers in dienst genomen die hebben gewerkt aan Google’s tensor processing unit. De productie van de nieuwe chip wordt echter pas op zijn vroegst in 2026 verwacht.

Deze stap is belangrijk omdat het OpenAI’s streven naar onafhankelijkheid in de AI-hardwaremarkt laat zien. Door eigen chips te ontwikkelen, zou OpenAI de knelpunten in de GPU-voorziening kunnen omzeilen en mogelijk zijn missie richting Artificial General Intelligence (AGI) versnellen.

Bron: The Rundown AI, 22 juli 2024

4. Verbeterde verklaringsmogelijkheden voor AI

OpenAI heeft nieuw onderzoek gepubliceerd over een methode om grote taalmodellen begrijpelijkere en verifieerbare outputs te laten produceren. Deze techniek maakt gebruik van een “Prover-Verifier Game” waarbij een sterker AI-model (de bewijzer) probeert een zwakker model (de verificateur) te overtuigen dat zijn antwoorden correct zijn. Door meerdere rondes van dit spel leert de bewijzer oplossingen te genereren die niet alleen correct zijn, maar ook gemakkelijker te verifiëren.

Hoewel de methode de nauwkeurigheid slechts met ongeveer 50% verbeterde in vergelijking met optimalisatie alleen voor correctheid, waren de oplossingen gemakkelijk te controleren door mensen. OpenAI testte de aanpak op wiskundeproblemen van de basisschool en is van plan dit uit te breiden naar meer complexe domeinen in de toekomst.

Deze ontwikkeling is cruciaal voor het vergroten van het vertrouwen in AI-systemen. Naarmate AI-systemen steeds geavanceerder worden, wordt het belangrijker dat hun output interpreteerbaar blijft voor mensen.

Bron: The Rundown AI, 18 juli 2024

5. Mysterieus nieuw AI-model in LMSYS Chatbot Arena (Strawberry)

Er is een onbekend AI-model verschenen in de LMSYS Chatbot Arena. Hierdoor zijn speculaties aangewakkerd dat dit OpenAI’s langverwachte Q* AI-doorbraak of de evolutie ervan – met codenaam ‘Strawberry’ – zou kunnen zijn.

• Een ‘anonymous-chatbot’ dook op in de LMSYS Chatbot Arena, een open-source platform waar AI-startups vaak aankomende releases testen.
• Testers van de “anonymous-chatbot” melden dat het geavanceerder redeneert dan GPT-4o en andere toonaangevende modellen.
• Sam Altman, CEO van OpenAI, plaatste een afbeelding van een aardbei op X (voorheen Twitter), wat de codenaam is van OpenAI’s vermeende geheime AI-model.

Bron: The Rundown AI, 8 augustus 2024

Nieuws over Anthropic en Claude

6. Lancering van prompt-caching functie door Anthropic

Anthropic heeft een nieuwe functie genaamd ‘prompt-caching’ geïntroduceerd voor hun Claude AI-modellen. Deze innovatie stelt ontwikkelaars in staat om grote delen van prompts te hergebruiken tussen aanroepen via API’s. Dit leidt tot aanzienlijke kostenbesparingen en verbeterde responstijden.

Belangrijkste kenmerken:
– Beschikbaar voor Claude 3.5 Sonnet en Claude 3 Haiku, met ondersteuning voor Claude 3 Opus in de nabije toekomst.
– Kostenreductie tot 90% en vermindering van responstijd tot 85% voor lange prompts.
– Ideaal voor het verwerken van grote documenten en herhaalde instructies.
– Ondersteunt gesprekken met meerdere beurten.

Deze ontwikkeling is significant omdat het de efficiëntie en betaalbaarheid van AI-toepassingen aanzienlijk verbetert. Het maakt het mogelijk om hele codebases te verwerken, honderden voorbeelden te gebruiken voor verbeterde taakprestaties, en grote documenten te verwerken tegen lagere kosten. Dit kan leiden tot meer geavanceerde en kosteneffectieve toepassingen in sectoren zoals software-ontwikkeling, onderzoek en documentanalyse.

Bron: AlphaSignal, 16 augustus 2024

7. Nieuwe partnerschappen en investeringen van Anthropic

Anthropic heeft een aantal belangrijke partnerschappen en investeringen aangekondigd:

a) Menlo Ventures heeft in samenwerking met Anthropic een investeringsfonds van $100 miljoen opgericht, genaamd het Anthology Fund. Dit fonds is gericht op het ondersteunen van startups die Anthropic’s technologie gebruiken in verschillende gebieden, waaronder infrastructuur, nieuwe toepassingen en consumentenervaringen. Dit initiatief kan leiden tot een breder ecosysteem van AI-toepassingen gebaseerd op Anthropic’s technologie.

Bron: The Rundown AI, 18 juli 2024

b) Anthropic gaat samenwerken met de Japanse technologiegigant Fujitsu om ‘Takane’ te ontwikkelen, een geavanceerd Japanstalig AI-model voor zakelijk gebruik. Dit model is gebaseerd op Cohere’s Command R+ en staat gepland voor lancering in september 2024. Deze samenwerking toont Anthropic’s ambitie om hun technologie internationaal uit te breiden en aan te passen aan specifieke taalmarkten.

Bron: The Rundown AI, 17 juli 2024

8. Lancering van Android-app Claude

Anthropic heeft een Android-app voor Claude uitgebracht, die nu beschikbaar is in de Google Play Store. Deze stap maakt Claude toegankelijker voor mobiele gebruikers en breidt het potentiële gebruikersbestand aanzienlijk uit.

Bron: The Rundown AI, 17 juli 2024

Nieuws over Microsoft en Copilot

9. Lancering van AI Designer app Microsoft

Microsoft heeft aangekondigd dat hun AI Designer app nu uit de preview-fase is en wereldwijd beschikbaar is. Deze app brengt geavanceerde mogelijkheden voor beeldgeneratie, bewerking en ontwerp naar mobiele en Windows-platforms:

– De app is beschikbaar in meer dan 80 talen op het web, Android, iOS en Windows-platforms.
– Designer gebruikt AI om afbeeldingen en ontwerpen te genereren op basis van tekstprompts, met mogelijkheden om outputs zoals aangepaste stickers, emoji’s, avatars en meer te creëren.
– De gratis versie biedt 15 dagelijkse ‘boosts’ voor AI-creaties, terwijl Copilot Pro-abonnees ($20/maand) 100 boosts krijgen.
– Nieuwe functies omvatten ‘prompt templates’ voor snelle creatie, ‘Restyle’ voor het remixen van bestaande afbeeldingen, en ‘Frame’ voor het maken van gepersonaliseerde frames en collages.

Deze ontwikkeling toont Microsoft’s ambitie om een grotere rol te spelen in de AI-gedreven creatieve ruimte, waarmee ze concurreren met gevestigde spelers zoals Canva en Adobe. Het maakt geavanceerde ontwerptools toegankelijker voor een breder publiek, wat potentieel de manier waarop mensen visuele content creëren kan veranderen.

Bron: The Rundown AI, 23 juli 2024

10. Samenwerking Microsoft met Mass General Brigham en University of Wisconsin

Microsoft heeft samenwerkingen aangekondigd met Mass General Brigham en de Universiteit van Wisconsin om AI-basismodellen voor medische beeldvorming te bevorderen. Het doel is om de efficiëntie van radiologen te verbeteren en patiëntresultaten te verbeteren.

Bron: The Rundown AI, 25 juli 2024

11. GitHub’s nieuwe AI-functies

GitHub, eigendom van Microsoft, heeft enkele nieuwe AI-gerelateerde functies geïntroduceerd:

– GitHub Models: Een nieuw platform waarmee ontwikkelaars toegang krijgen tot en kunnen experimenteren met verschillende AI-modellen direct op GitHub. Dit omvat een speeltuin, Codespaces-integratie en implementatie.
– GitHub lanceerde een geïntegreerde modelspeeltuin voor AI-ontwikkelaars.

Deze ontwikkelingen versterken Microsoft’s positie in de ontwikkelaarsgemeenschap en bieden nieuwe mogelijkheden voor AI-integratie in softwareontwikkeling. Dit sluit aan bij de bredere Copilot-strategie van het bedrijf.

Bronnen: The Rundown AI, 2 augustus 2024 en AlphaSignal, 22 juli 2024

Nieuws over AI en beeldgeneratie

12. Lancering van FLUX.1 door Black Forest Labs

Black Forest Labs heeft FLUX.1 geïntroduceerd, een suite van geavanceerde AI-modellen voor beeldgeneratie die concurreren met huidige leiders zoals Midjourney en DALL-E 3. FLUX.1 komt in drie varianten:

– [pro]: De hoogste kwaliteit, beschikbaar via API en gratis op Replicate.
– [dev]: Een open-weight, niet-commerciële versie die qua kwaliteit overeenkomt met [pro].
– [schnell]: Een ultra-efficiënt, 4-staps model voor lokale ontwikkeling of persoonlijk gebruik.

FLUX.1 biedt ongelooflijke kwaliteit en open-source opties, wat de weg vrijmaakt voor een nieuw tijdperk van gedemocratiseerde, hoogwaardige AI-beeldgeneratie. Black Forest Labs heeft ook een aankomend model voor tekst-naar-video generatie aangekondigd, dat qua kwaliteit lijkt te concurreren met OpenAI’s Sora.

Deze ontwikkeling is belangrijk omdat het de toegankelijkheid van hoogwaardige AI-beeldgeneratie vergroot en mogelijk de deur opent naar geavanceerde video-generatie technologie die breed beschikbaar is.

Bron: The Rundown AI, 2 augustus 2024

13. Adobe’s AI-updates voor Illustrator en Photoshop

Adobe heeft belangrijke AI-updates voor Illustrator en Photoshop bekend gemaakt, gebruikmakend van hun Firefly AI-model:

– Illustrator introduceert Generative Shape Fill, dat gedetailleerde vectoren aan vormen toevoegt en schaalbare patronen creëert via tekstprompts.
– Text to Pattern in Illustrator creëert schaalbare, aangepaste vectorpatronen voor ontwerpen zoals behang.
– Photoshop’s nieuwe AI-aangedreven Selection Brush Tool en Generate Image-functie zijn nu algemeen beschikbaar.
– Photoshop krijgt ook een verbeterde versie van de populaire Generative Fill voor verbeterde scherpte in grote afbeeldingen.

Deze updates kunnen de productiviteit van ontwerpers drastisch verhogen door tijdrovende taken te automatiseren. Adobe integreert krachtige AI-technologie direct in de dagelijkse tools van ontwerpers, wat de workflow aanzienlijk kan verbeteren.

Bron: The Rundown AI, 24 juli 2024

14. Microsoft’s AI Designer app gaat mobiel

Microsoft heeft aangekondigd dat zijn AI Designer-app uit de preview-fase is en nu wereldwijd beschikbaar is, met geavanceerde mogelijkheden voor beeldgeneratie, bewerking en ontwerp op mobiele en Windows-platforms:

– Designer is beschikbaar in meer dan 80 talen op het web, op Android en iOS, en via Windows-platforms.
– De app gebruikt AI om afbeeldingen en ontwerpen te genereren op basis van tekstprompts, met de mogelijkheid om outputs zoals aangepaste stickers, emoji’s, avatars en meer te maken.
– De gratis versie biedt 15 dagelijkse ‘boosts’ voor AI-creaties, met 100 voor Copilot Pro-abonnees ($20/maand).
– Nieuwe functies zijn onder andere ‘prompt templates’ voor snelle creatie, ‘Restyle’ voor het remixen van bestaande afbeeldingen, en ‘Frame’ voor het maken van gepersonaliseerde frames en collages.

Microsoft maakt hiermee een grote stap in de AI-ontwerpruimte, maar staat niet alleen – grote spelers zoals Canva en Adobe leunen ook sterk op deze technologie om creativiteit toegankelijker te maken voor alledaagse gebruikers.

Bron: The Rundown AI, 23 juli 2024

15. Midjourney’s update naar versie 6.1

Midjourney heeft versie 6.1 uitgebracht met verbeterde beeldkwaliteit, coherentie en tekstweergave, samen met nieuwe upscaling- en personalisatiemodellen. Deze update biedt snellere verwerking en verbeterde algehele esthetiek.

Bron: The Rundown AI, 31 juli 2024

16. Stability AI’s Stable Fast 3D

Stability AI heeft Stable Fast 3D geïntroduceerd, een AI-model dat hoogwaardige 3D-assets genereert uit een enkele afbeelding in slechts 0,5 seconden. Deze technologie kan industrieën zoals gaming en e-commerce potentieel hervormen door het creëren van dynamisch gegenereerde assets en realtime 3D-productvoorbeelden mogelijk te maken.

Bron: The Rundown AI, 25 juli 2024

Nieuws over AI en video generatie

17. Runway’s Gen-3 Alpha met image-to-video mogelijkheden

Runway heeft een nieuwe functie toegevoegd aan hun Gen-3 Alpha model, waarmee gebruikers statische afbeeldingen kunnen omzetten in korte video’s. Deze ontwikkeling biedt meer consistentie in videogeneratie:

– Gebruikers kunnen een afbeelding uploaden en deze omzetten in een korte video.
– De functie is beschikbaar voor betalende abonnees van Runway.
– Video’s kunnen 5 of 10 seconden lang zijn.
– Deze technologie kan waardevol zijn voor sociale media, webdesign en digitale kunstenaars.

Deze feature maakt het mogelijk om snel en eenvoudig dynamische content te creëren uit statische beelden. Dit vergroot de mogelijkheden voor visuele communicatie en storytelling.

Bron: The Rundown AI, 25 juli 2024

18. Stability AI’s Stable Video 4D

Stability AI heeft Stable Video 4D geïntroduceerd, een nieuw AI-model dat enkele objectvideo’s kan omzetten in meerdere video’s vanuit acht verschillende hoeken. Dit model heeft potentiële toepassingen in game-ontwikkeling, videobewerking en virtual reality.

Deze technologie opent nieuwe mogelijkheden voor het creëren van meerdere perspectieven van een enkele video-input.

Bron: The Rundown AI, 29 juli 2024

19. Kling AI’s wereldwijde lancering

Kling AI, ontwikkeld door het Chinese techbedrijf Kuaishou Technology, heeft zijn indrukwekkende AI-videomodel wereldwijd gelanceerd:

– Kling kan video’s genereren tot twee minuten lang, langer dan OpenAI’s Sora’s limiet van één minuut. De wereldwijde versie is echter beperkt tot generaties van vijf seconden.
– De wereldwijde versie biedt dagelijks 66 gratis credits, waarbij elke generatie 10 credits kost.
– Volgens Kuaishou maakt Kling gebruik van geavanceerde 3D-reconstructietechnologie voor natuurlijkere bewegingen.
– Het platform accepteert prompts tot 2.000 tekens, waardoor gedetailleerde videobeschrijvingen mogelijk zijn.

Bron: The Rundown AI, 25 juli 2024

20. OpenAI’s Sora voorbeelden en uitbreiding

OpenAI heeft nieuwe voorbeelden van hun Sora-videogeneratiemodel gepost op het Instagram-account van het bedrijf. Ze gaven aan dat de tool langzaam wordt uitgebreid naar meer creatievelingen voor testen.

Hoewel Sora nog niet publiek beschikbaar is, laat deze update zien dat OpenAI actief bezig is met het verfijnen en testen van hun videogeneratietechnologie.

Bron: The Rundown AI, 17 juli 2024

Nieuws over Meta en Llama

21. Lancering van Llama 3.1

Meta heeft Llama 3.1 gelanceerd, inclusief het langverwachte 405B-parametermodel. Dit is het eerste open-source AI-model dat topprestaties levert vergelijkbaar met gesloten modellen zoals GPT-4o:

– Het 405B-parametermodel presteert gelijk aan of beter dan toonaangevende gesloten modellen op verschillende benchmarks.
– Meta biedt open en gratis gewichten en code aan, met een licentie die fine-tuning, distillatie naar andere modellen, en implementatie overal toestaat.
– Llama 3.1 heeft een contextlengte van 128k tokens, meertalige mogelijkheden, sterke codegeneratieprestaties en complexe redeneercapaciteiten.

Deze release markeert een belangrijk moment in de AI-geschiedenis, omdat het voor het eerst is dat een open-source AI-model gelijke tred houdt met of beter presteert dan top gesloten AI-modellen.

Bron: The Rundown AI, 24 juli 2024

22. Meta’s visie op open-source AI

Mark Zuckerberg, CEO van Meta, heeft in een interview en open brief zijn visie op open-source AI toegelicht:

– Zuckerberg ziet Llama 3.1 als een keerpunt voor open-source AI, met het potentieel om “de open-source AI-standaard” te worden, vergelijkbaar met de impact van Linux op besturingssystemen.
– Hij benadrukt dat open-source belangrijk is om ervoor te zorgen dat AI-voordelen en toegankelijkheid voor iedereen beschikbaar zijn, niet alleen voor een handvol grote bedrijven.
– Meta’s open-source AI-strategie is gericht op het toegankelijk maken van state-of-the-art AI voor iedereen, van individuen tot naties.
– Zuckerberg stelt dat deze aanpak niet alleen toegankelijker is, maar ook “veiliger dan het alternatief van gesloten ontwikkeling”.

Bron: The Rundown AI, 23 juli 2024 (Exclusief interview met Mark Zuckerberg)

23. Introductie van ‘Imagine me’ selfie-functie

Meta AI heeft een nieuwe ‘Imagine me’ selfie-functie geïntroduceerd, waarmee gebruikers gestileerde AI-gegenereerde selfies kunnen maken op basis van prompts. Dit gaat gepaard met uitgebreide taalondersteuning en integratie met Meta’s Llama 3.1 405B-model.

Bron: The Rundown AI, 24 juli 2024

24. Lancering van AI Studio

Meta heeft AI Studio gelanceerd, een platform waarmee gebruikers aangepaste AI-karakters kunnen maken, delen en ontdekken zonder technische vaardigheden. Dit platform is gebouwd op Llama 3.1.

Bron: The Rundown AI, 30 juli 2024

Nieuws over ethiek en regulering

25. Ethische kwesties rond dataverzameling

Er is sprake van een toenemende bezorgdheid over de ethische implicaties van dataverzameling door AI-bedrijven. Een onderzoek van Proof News onthulde dat techgiganten zoals Apple, Anthropic, Nvidia en Salesforce content van meer dan 170.000 YouTube-video’s hebben gebruikt om hun AI-modellen te trainen zonder toestemming van de makers. Dit roept vragen op over auteursrecht en ethisch gebruik van online content voor AI-training. Daarnaast zijn er zorgen geuit over de dataverzamelingspraktijken van Anthropic, waarbij hun webcrawler mogelijk de gebruiksvoorwaarden van websites heeft geschonden. Deze incidenten benadrukken de noodzaak voor duidelijke richtlijnen en ethische standaarden voor het verzamelen en gebruiken van data voor AI-training.

Bronnen: The Rundown AI, 17 juli 2024 en 26 juli 2024

26. Politieke ontwikkelingen in de VS

In de aanloop naar de Amerikaanse presidentsverkiezingen van 2024 zijn er significante ontwikkelingen op het gebied van AI-beleid:

a) De bondgenoten van voormalig president Donald Trump werken aan een AI-decreet dat gericht is op het stimuleren van militaire AI-ontwikkeling en het terugdraaien van huidige regelgeving. Dit plan omvat een ‘Make America First in AI’-sectie en roept op tot “Manhattan Projects” om militaire AI-capaciteiten te bevorderen. Het voorstel zou ook ‘belastende regelgeving’ voor AI-ontwikkeling elimineren en het AI-decreet van president Biden intrekken.

b) Senator J.D. Vance, genoemd als Trumps running mate, heeft eerder steun uitgesproken voor open-source AI en een hands-off benadering van regulering.

Deze ontwikkelingen suggereren een potentiële verschuiving in het AI-beleid van de VS, weg van de huidige, meer voorzichtige benadering naar een meer agressieve stimulering van AI-ontwikkeling, vooral op militair gebied.

Bron: The Rundown AI, 18 juli 2024

27. Oproep tot verantwoording door de Amerikaanse Senaat

Vijf Amerikaanse senatoren hebben een brief gestuurd naar OpenAI CEO Sam Altman, waarin ze details eisen over de inspanningen van het bedrijf om AI-veiligheid te waarborgen. Dit volgt op berichten dat OpenAI de veiligheidstests voor GPT-4 Omni zou hebben gehaast om een release in mei te halen. De senatoren vragen OpenAI om hun volgende basismodel beschikbaar te stellen aan Amerikaanse overheidsinstanties voor implementatietests, beoordeling, analyse en evaluatie.

Deze actie weerspiegelt de groeiende bezorgdheid van wetgevers over de veiligheid en betrouwbaarheid van AI-systemen en zou kunnen leiden tot strenger toezicht en nieuwe industriestandaarden.

Bron: The Rundown AI, 24 juli 2024

28. Initiatieven voor AI-veiligheid en -beveiliging

Verschillende initiatieven zijn gelanceerd om de veiligheid en beveiliging van AI-systemen te verbeteren:

a) Techgiganten waaronder Google, OpenAI, Microsoft en Amazon hebben de Coalition for Secure AI (CoSAI) gevormd. Dit open-source initiatief is gericht op het ontwikkelen van best practices en het aanpakken van uitdagingen op het gebied van AI-beveiliging.

b) Het National Institute of Standards and Technology (NIST) heeft Dioptra uitgebracht, een open-source tool voor het testen van AI-modelrisico’s en het meten van de impact van kwaadaardige aanvallen op AI-systeemprestaties.

Bronnen: The Rundown AI, 19 juli 2024 en 31 juli 2024

29. Wetgevende initiatieven in Californië

In Californië dringen staatsparlementsleden aan op een wetsvoorstel dat grote techbedrijven zou verplichten om AI te testen op “catastrofale” risico’s voordat ze publiek worden vrijgegeven. Dit voorstel weerspiegelt de groeiende bezorgdheid over de potentiële gevaren van geavanceerde AI-systemen en de behoefte aan proactieve regulering. Onder druk van ‘Silicon Valley’ is het oorspronkelijke wetsvoorstel weer afgezwakt.

Bron: The Rundown AI, 22 juli 2024

30. Onderzoek naar ethische implicaties van AI in de gamingindustrie

Electronic Arts heeft AI gebruikt om digitale klonen van 11.000 universitaire American football-spelers te creëren voor hun aankomende videogame, en dit in slechts 3 maanden tijd. Hoewel dit de efficiëntie van contentcreatie laat zien, roept het ook vragen op over privacy, toestemming en de rechten van individuen wiens beeldmateriaal wordt gebruikt voor AI-training.

Bron: The Rundown AI, 22 juli 2024

This content is published under the Attribution 3.0 Unported license.