Experts over een jaar ChatGPT

Het is een jaar geleden dat Chat GPT is gelanceerd. Ter gelegenheid hiervan hebben experts uit diverse IT-segmenten hun commentaren gegeven.

Mendix: GenAI is meer dan een versneller
We hebben het afgelopen jaar gezien dat generatieve AI potentieel van grote waarde kan zijn en dat het enorme gevolgen heeft voor alle vormen van werk. Zo kan het menselijke taken versnellen, kenniswerkers ondersteunen en zelfs helpen bij het bouwen van een chatbot. Maar wie GenAI alleen ziet als een versneller of een slimme hulp om AI toegankelijker te maken, onderschat de echte potentie van waar het op zakelijk gebied aan zou kunnen bijdragen”, aldus Hans de Visser, Chief Product Officer bij Mendix. “Als je een groter probleem wil oplossen en bijvoorbeeld met AI bedrijfsprocessen wil verbeteren, heb je echter wel een combinatie van AI-technieken nodig, en niet slechts één. Gartner noemt dit ‘Composite AI’. Hierbij worden meerdere AI- en analysemogelijkheden samengebracht en ontstaat een beter – en betrouwbaarder – resultaat. Daarmee wordt ook direct één van de grootste issues van GenAI beslecht dat voor organisaties een essentiële factor is bij de toepassing van AI: vertrouwen."

Heeyoo: Omarm verandering en ontwikkel de juiste skills
"Dankzij ChatGPT is er meer aandacht voor AI dan ooit tevoren. Het heeft de deuren geopend naar een nieuw tijdperk waarin kunstmatige intelligentie niet langer slechts een futuristisch concept is, maar een daadwerkelijke rol gaat spelen in ons dagelijks leven en werk”, aldus Stan van den Berg, Quality Assurance Professional bij Heeyoo. “In de wereld van softwareontwikkeling en testing speelt AI een steeds prominentere rol, en het is essentieel dat we als professionals in dit veld de veranderingen omarmen. Het is niet langer een kwestie van 'of', maar eerder van 'hoe' we AI integreren. Binnen Heeyoo volgen we deze ontwikkelingen nauwlettend, omdat we geloven dat het verwerven van kennis op dit gebied cruciaal is om onze klanten optimaal te kunnen ondersteunen.”

“AI biedt niet alleen kansen om onze werkprocessen te stroomlijnen, maar het dwingt ons ook tot een reflectie op de toekomst van ons vak. Het is een evolutie die vraagt om aanpassingsvermogen en nieuwe vaardigheden. Skills zoals kritisch denken, analyserend vermogen en flexibiliteit worden nog belangrijker, en laat dat net de skillset zijn van een goede QA-tester. Het is belangrijk te onthouden dat we AI niet kunnen stoppen, maar we kunnen wel een rol spelen in het begeleiden van de ontwikkeling en toepassing ervan in ons werk. Laten we deze uitdaging aangaan, zodat we niet worden overreden door de voortrazende trein van AI, maar er juist de vruchten van kunnen plukken.”

SoSafe: AI creëert dreigingen, maar biedt verdedigingsmogelijkheden
"Nu we het eenjarig bestaan van ChatGPT vieren, is het ook een goed moment om stil te staan bij hoe AI de wereld van cyberbeveiliging heeft opgeschud”, aldus dr. Niklas Hellemann, psycholoog & CEO bij SoSafe. “De explosie van AI-tools heeft een nieuw cybercriminaliteit-tijdperk ingeluid: Uit onze gegevens blijkt dat 74 procent van de beveiligingsprofessionals aangeeft dat kunstmatige intelligentie de situatie op het gebied van cyberdreigingen heeft verslechterd.”

“De grootste zorgen rond AI-gestuurde cybercriminaliteit gaan over vertrouwen, automatisering en schaal. Hackers maken nu gebruik van deepfakes en 'vishing' om hun aanvallen geloofwaardig te laten lijken, waardoor mensen denken dat ze met iemand spreken die ze vertrouwen. Ondertussen stelt AI hackers in staat om enorme hoeveelheden kwaadaardige code voor malware-aanvallen automatisch te produceren en hun activiteiten aanzienlijk uit te breiden. De opkomst van commerciële tools zoals FraudGPT en WormGPT helpt cybercriminelen om hun phishingaanvallen zowel kwantitatief als kwalitatief op te schalen: ze kunnen phishingmails schrijven en versturen die er net zo uitzien als authentieke menselijke gesprekken, en ze doen dit sneller en op een veel grotere internationale schaal dan ooit tevoren.”

“De opkomst van AI zal het cyberdreigingslandschap er zeker niet beter op maken. AI maakt cybercriminaliteit nog professioneler en stimuleert het innovatievermogen. Hackers runnen hun activiteiten als grote en zeer winstgevende bedrijven. Maar we moeten niet vergeten dat AI ons ook veel nieuwe mogelijkheden biedt om ons tegen deze cyberbedreigingen te verdedigen. We kunnen AI gebruiken voor het personaliseren van bewustzijnstrainingen, zoals onze snelle bewustzijnstool 'Sofie' laat zien. Of door phishingsimulaties verder te personaliseren. Door bewuster te worden en beter voorbereid te zijn op het herkennen van tactieken die worden gebruikt om ons aan te vallen, kunnen we onze verdediging versterken en terugvechten in dit nieuwe tijdperk van AI-aangedreven cybercriminaliteit."

OPP: GenAI als disruptieve kracht en bedreiging
Ook voor platformen en marktplaatsen kan GenAI een game changer zijn. Bijvoorbeeld op het gebied klantervaring en support. Richard Straver is oprichter van Online Payment Platform (OPP) een gespecialiseerde payment service provider voor marktplaatsen en platformen. Hij benadrukt dat GenAI veel verder gaat dan het zijn van een productiviteitsbooster. “Het kan helpen interacties tussen klanten te analyseren, patronen te ontdekken en echt de klantervaring te verbeteren. Verder zie ik mooie use cases waarbij het bijdraagt aan de ontwikkeling van nieuwe content en functies. Denk bijvoorbeeld aan de integratie van ChatGPT in een e-commerce platform om klanten te helpen bij het sneller vinden van de juiste producten, of helpen bij het omschrijven van een product. Daarnaast kunnen zelflerende systemen, zoals ChatGPT worden gebruikt om verdachte patronen en afwijkingen te detecteren en zo fraude te bestrijden. Ofwel er zijn kansen te over om met generatieve AI platformen en marktplaatsen verder te optimaliseren.”

Straver ziet echter ook de keerzijde van de technologie. “Met dezelfde slimheid kan het namelijk ook zorgen voor een toename van nepadvertenties. Daarom is het ook belangrijk om systemen te implementeren die nepadvertenties kunnen detecteren en verwijderen voordat ze schade kunnen aanrichten.”

Check Point Software: Generatieve AI creëert cyberdreigingen en manipulatierisico's
“Het is bizar wat de introductie van ChatGPT allemaal teweeg heeft gebracht. Ook het cyberdreigingslandschap is aanzienlijk verandert”, aldus Zahier Madhar, Security Engineer Expert bij Check Point Software. “Net zoals ChatGPT goed kan worden gebruikt om ontwikkelaars te helpen bij het schrijven van code, kan het ook worden gebruikt voor kwaadaardige doeleinden. De aantrekkingskracht voor criminelen zit ‘m in het versnellen van het proces: ChatGPT geeft hackers een goed startpunt en stelt zelfs niet-technische actoren in staat schadelijke tools te maken. We zagen bijvoorbeeld dat cybercriminelen op hackforums infostealers en coderingstools creëren en fraudeactiviteiten, zoals het produceren van phishingmails, faciliteren. Inmiddels is er een hele criminele industrie ontstaan, waarbij geld verdiend wordt door prompts te verkopen. Op Telegram zien we dat cybercriminelen nog steeds handelen in ChatGPT-abonnementen.”

“Gekeken naar de toekomst zijn er wel zorgen. Ten eerste aangaande de toegang van onbevoegden tot de zoekopdrachten en informatie die we indienen. En ten tweede het risico op manipulatie van een model. Met het hacken en veranderen van modellen zou je honderden miljoenen mensen kunnen beïnvloeden, door ze bijvoorbeeld zeer bevooroordeelde berichtgeving over een politieke kwestie te bieden, waardoor het antwoord of de antwoorden eenzijdig worden. Er zijn in dit opzicht zeer grote zorgen. We moeten meer nadenken over hoe we generatieve AI beschermen, van data-integriteit tot gebruikersprivacy tot hacking. Ik denk ook dat het belangrijk is dat we gebruikers van generatieve AI beschermen. Dit kunnen we doen door te blijven herhalen wat de risico’s zijn én hoe men het moet gebruiken. Tips zijn bijvoorbeeld het controleren van output als er geen bron wordt vermeld en geen informatie in een prompt delen die niet gedeeld mag worden. En wees ervan bewust dat ook generatieve AI fouten kan maken.”

Remote: AI transformeert werk en leiderschap
“In een jaar met economische uitdagingen, hoge inflatie en een krapte op de arbeidsmarkt, maakte ook ChatGPT in 2023 veel los voor zowel werknemers als werkgevers,” aldus Job van der Voort, CEO en medeoprichter van Remote. “ChatGPT is een reuzensprong voor kunstmatige intelligentie gebleken. Terwijl het in verschillende sectoren vooral een handig hulpmiddel is, lees je ook over schrikreacties van mensen in een ogenschijnlijke existentiële crisis. Het is van cruciaal belang om na te denken over de vaardigheden die ChatGPT kan vervangen, welke gegevens het kan benaderen, en hoe we de output kunnen controleren.”

“Echt leiderschap betekent het inzetten van de innovatie die nieuwe technologieën kunnen stimuleren, in plaats van angstig te zijn voor de hypothetische risico's ervan. Dat is waarom we bij Remote deze vooruitgang hebben omarmd en we ons team aangemoedigd hebben om creatieve manieren te vinden om ChatGPT in te zetten. Zo hebben we hebben een wedstrijd georganiseerd voor medewerkers om innovatieve toepassingen te bedenken, zoals het automatiseren van landspecifieke informatie en het verbeteren van communicatie tussen teams. Ik geloof in het proactief inzetten van innovatie, het belonen van creativiteit en het vertrouwen in onze werknemers om deze tools verantwoord te gebruiken. De geschiedenis leert ons dat technologie banen kan scheppen, en wij zijn vastbesloten om die trend voort te zetten, ook in het tijdperk van ChatGPT.”

Computest Security: AI-revolutie voedt evolutie CxO-fraude
"ChatGPT heeft het afgelopen jaar een ware AI-revolutie ontketend, wat niet alleen de wereld van large language modellen heeft beïnvloed, maar ook heeft bijgedragen aan de opkomst van andere op AI gebaseerde technologieën, zoals AI voice cloning. Een interessante tool voor de criminelen die zich bezighouden met CxO-fraude," aldus Daan Keuper, Head of Security Research bij Computest Security. "Verschillende incidenten lieten het afgelopen jaar zien welke potentiële gevaren deze nieuwe technologie met zich meebrengt."

"De traditionele CxO-fraude, gericht op topmanagers, zou nu een geavanceerdere vorm kunnen aannemen, waardoor het moeilijker wordt om te detecteren. Door middel van een korte stemopname van een leidinggevende zouden criminelen overtuigende telefoongesprekken kunnen voeren, waarbij ze hiërarchische druk misbruiken om medewerkers te bewegen tot het overmaken van aanzienlijke geldbedragen."

"De toekomst van cybersecurity vereist niet alleen alertheid, maar ook flexibiliteit. Terwijl we ons verdedigen tegen de huidige dreigingen, is het essentieel om vooruit te kijken en ons aan te passen aan de mogelijke volgende zet van cybercriminelen. Het is een voortdurende kat-en-muisspel, en het is cruciaal dat bedrijven, in samenwerking met technologische ontwikkelingen, blijven leren en evolueren om de opkomende dreigingen voor te blijven."