Robotläraren 'Sally' pausas: Skoldistrikt i New York fryser pilot med humanoid AI efter statens varning

Ett litet landsbygdsdistrikt i västra New York har lagt ett av USA:s mest ambitiösa AI-experiment i klassrummet på is — åtminstone tills vidare. Salamanca City Central School District meddelade fredagen den 24 juli att planen på att placera en humanoid robot i ett gymnasieklassrum pausas, bara timmar efter att statens utbildningsdepartement formellt uttryckt oro över projektet.



Vad distriktet planerade


Distriktet, som undervisar cirka 1 300 elever på Seneca Nation-reservatet, hade i förra månaden kommit överens om att spendera 57 590 dollar på en robot byggd av det Toronto-baserade teknikbolaget Realbotix, tillsammans med ett AI-baserat lärarassistentprogram som låter eleverna interagera med en digital avatar av roboten på sina bärbara datorer. Investeringen, som godkändes vid ett styrelsemöte i juni, var rabatterad — Realbotix listar M-Series-modellen som distriktet köpte med ett startpris på 95 000 dollar.


Roboten, som fått namnet Sally, skulle ha ett livstroget utseende med silikonhud, långt brunt hår och ett brett register av rörelser i överkroppen och ansiktsuttryck, men den skulle förbli sittande på en fast plats. Eleverna skulle använda en unik identifikationskod när de närmade sig roboten, så att den kunde koppla samtalen i klassrummet till varje elevs tidigare interaktioner med avataren. Via avataren kunde eleverna ladda upp foton av läxor för återkoppling, be om genererade lektioner eller få realtidsöversättning på mer än 100 språk.


Salamanca planerade att introducera roboten i höst i gymnasieskolans kurser i AI och robotik, som använder en läroplan utvecklad av Apples medgrundare Steve Wozniak för att förbereda eleverna på eftertraktade teknikjobb. Skolchef Mark Beehler försvarade planen som ett alternativ till förbud: "Många skolor väljer den enkla lösningen att helt enkelt förbjuda det", sa han. "Jag tror också att det är avgörande att skolor lär ut korrekt användning av teknik, inte bara utesluter den."



Därför pausades planen


Pilotprojektet granskades intensivt efter att New York Focus först rapporterade om det i mitten av juli. Föräldrar, lärare och statens lärarfackförbund uttryckte oro över elevernas integritet, skärmtid och Realbotix historik: i april 2024 förvärvade bolaget Simulcra, moderbolaget bakom RealDoll, en tillverkare av hyperrealistiska vuxenprodukter. Realbotix uppger att utbildningsverksamheten inte delar anställda, löner, lokaler eller teknik med RealDoll, och att bolaget väntas formellt separera verksamheterna på ägarnivå senast i september.


Melinda Person, ordförande för New York State United Teachers, var direkt: "En robot byggd av ett bolag kopplat till sexdockor hör inte hemma i våra klassrum", sa hon och tillade att ingen robot, hur livstrogen den än är, kan ge den mänskliga kontakt som elever behöver.


Bara timmar före distriktets besked skickade statens utbildningskommissionär Betty Rosa ett brev till skolchef Beehler där hon skrev att "departementet fortsätter att vara oroat över vilken effekt en humanoid robot kan ha i ett gymnasieklassrum", och noterade att många föräldrar, lärare och intressenter "förståeligt nog är oroade över närvaron av AI-teknik i klassrum, särskilt när det handlar om robotar som liknar människor".



De skyddsåtgärder som utlovats


Distriktet hade presenterat flera skyddsräcken:



  • Ett slutet system utan internetanslutning, så att elevdata stannar lokalt

  • Ingen åtkomst för Realbotix till personligt identifierbar elevinformation

  • Ingen ansiktsigenkänning eller inspelning, till skillnad från bolagets kommersiella robotar

  • Träning av roboten att säga "jag vet inte" i stället för att hallucinera svar

  • Automatiska larm till skolans administration vid flaggade begrepp kopplade till självskada



Vad händer nu


Enligt distriktets inlägg på Facebook ska tjänstemännen "arbeta sig genom förstärkta avtal om dataskydd för elever" med statens utbildningsmyndighet och samtala med lokalsamhället innan projektet kan gå vidare. Realbotix vd Andrew Kiguel sa att bolaget fullt ut respekterar beslutet: "Vi vill att programmet ska vara påvisbart säkert, fullt godkänt av distriktet och starkt stöttat av lärarna."


Händelsen landar mitt i en bredare uppgörelse om AI i skolan. I maj krävde statens lärarförbund strikta gränser för AI och skärmtid, och tidigare i juli tillkännagav New York Citys offentliga skolor ett inköpsstopp för utbildningsteknik tills systemet har tagit fram AI-riktlinjer senare i sommar. Om Salamancas robot någonsin tar plats i klassrummet beror kanske mindre på tekniken själv än på om distriktet kan övertyga sitt samhälle om att skyddsåtgärderna är verkliga.

Finns också på: English Deutsch Español