De digitale leraar die altijd paraat staat
In klaslokalen over de hele wereld is PowerSchool een vertrouwde naam. Het bedrijf ondersteunt meer dan 60 miljoen leerlingen in meer dan 90 landen met digitale leerplatformen. Toen het team achter PowerSchool besloot om een eigen AI-assistent te bouwen — PowerBuddy™ — was het doel helder: een virtuele begeleider die leerlingen helpt leren, plannen en groeien. Maar er doemde meteen een nieuw vraagstuk op. Hoe zorg je ervoor dat een AI die met kinderen praat, ook écht veilig blijft?
Een AI die weet wat gepast is
PowerBuddy is ontworpen als meer dan een chatbot. Het is een slimme gids die leerlingen kan uitleggen wat fotosynthese is, advies geeft over studieroutes en zelfs schoolinformatie kan voorlezen. De assistent is geïntegreerd in verschillende PowerSchool-apps, van Schoology tot PowerSchool SIS, en biedt ondersteuning voor tekst-naar-spraak, spraakherkenning en vertaaldiensten. Toch bleef één zorgpunt groot: hoe filter je miljoenen gesprekken per dag, zonder dat de AI te streng of juist te laks wordt?
|
Responsible AI: How PowerSchool safeguards millions of students with AI-powered content filtering using Amazon SageMaker AI | Amazon Web ServicesIn this post, we demonstrate how PowerSchool built and deployed a custom content filtering solution using Amazon SageMaker AI that achieved better accuracy while maintaining low false positive rates. We walk through our technical approach to fine tuning Llama 3.1 8B, our deployment architecture, and the performance results from internal validations. |
Het dilemma van de digitale klas
Een leerling die vraagt naar de geschiedenis van de Tweede Wereldoorlog moet een eerlijk en educatief antwoord krijgen — niet een foutmelding omdat het onderwerp “geweld” bevat. Tegelijk mag diezelfde AI niet stil blijven als een leerling vertelt dat hij gepest wordt of overweegt zichzelf pijn te doen. PowerSchool ontdekte al snel dat bestaande contentfilters die nuance misten. Wat nodig was, was een AI die context begrijpt: die wist wanneer iets lesstof is en wanneer iets zorgwekkend.
De keuze voor Amazon SageMaker AI
Om dat te bereiken, werkte PowerSchool samen met Amazon Web Services (AWS). Met Amazon SageMaker AI kon het team een model bouwen dat niet alleen slim, maar ook verantwoord is. De keuze was logisch: SageMaker bood betrouwbaarheid, schaalbaarheid, controle over modeltraining en, misschien wel het belangrijkste, transparantie.Geen “black box”-beslissingen, maar inzicht in hoe de AI tot haar conclusies komt — essentieel voor een organisatie die met kinderen werkt.
Een AI die leert wat veilig is
Het team trainde zijn model op zorgvuldig samengestelde datasets: echte onderwijsvoorbeelden waarin onderscheid gemaakt werd tussen neutrale, leerzame en potentieel schadelijke content.Daarna werd de AI verfijnd met Low Rank Adaptation (LoRA), een methode waarmee modellen subtiel kunnen worden bijgestuurd zonder van nul af aan te moeten hertrainen.De datasets werden veilig opgeslagen in versleutelde S3-buckets, en alles werd gecontroleerd via Amazon CloudWatch.
De cijfers achter de veiligheid
De resultaten waren indrukwekkend. De AI herkende met 93% nauwkeurigheid ongepaste inhoud, terwijl het aantal onterechte waarschuwingen onder 3,75%bleef. Zelfs tijdens piekuren bleef de responstijd stabiel: gemiddeld 1,5 seconde per antwoord.In vergelijking met standaardfilters bleek het maatwerkmodel duidelijk beter te presteren: minder fouten, meer nuance, en vooral — meer vertrouwen van scholen.
Van laboratorium naar klaslokaal
Toen de eerste versies van PowerBuddy in echte scholen werden getest, merkten leerkrachten en ICT-beheerders iets opvallends. Er waren minder meldingen van AI die “vreemde” antwoorden gaf, en leerlingen gebruikten de assistent met meer vertrouwen.Docenten voelden zich gerustgesteld: de AI dacht niet alleen mee, maar hield ook een oogje in het zeil.
Een AI die meegroeit met de klas
PowerSchool ziet dit niet als een eindpunt, maar als het begin van een evolutie.Het bedrijf werkt al aan multi-adapter inference, waarbij verschillende mini-modellen samenwerken. Zo kan één model zich specialiseren in taal, een ander in empathie en weer een ander in het herkennen van noodsignalen.Daarnaast wil PowerSchool zijn filters verder verfijnen op vakniveau — zodat biologie, geschiedenis en literatuur elk hun eigen AI-profiel krijgen.
Technologie met een menselijk hart
De visie achter PowerSchool’s aanpak is even eenvoudig als krachtig: technologie hoort leerlingen te ondersteunen, niet te bedreigen. Door transparante AI te combineren met menselijke waarden, bewijst PowerSchool dat het mogelijk is om generatieve AI op een veilige en verantwoorde manier in het klaslokaal te brengen.
Een les in vertrouwen
De boodschap die PowerSchool uitdraagt, is universeel.AI kan wonderen doen in het onderwijs — mits het systeem de juiste morele kompas heeft. Door gebruik te maken van Amazon SageMaker AI, laat PowerSchool zien dat innovatie niet ten koste hoeft te gaan van veiligheid. Integendeel: het kan hand in hand gaan met zorg, empathie en vertrouwen.
