Ako môže AI zhromažďovať stopy, aby sa zabránilo budúcim streľbám v škole

Vo svetle nedávnych smrtiacich školských prestreliek v Spojených štátoch hľadajú pedagógovia, rodičia a bezpečnostní experti riešenie problému pomocou technológií. V popredí je využitie umelej inteligencie.

"Naším cieľom je zabezpečiť, aby dieťa nikdy nechcelo nosiť so sebou zbraň," uviedla Suzy Loughlin, spoluzakladateľka a hlavná rada spoločnosti Firestorm, ktorá sa špecializuje na krízové ​​riadenie. Za týmto účelom spoločnosť v spolupráci s Alabamskou školou kontinuálneho vzdelávania vyvinula preventívny program, ktorý sleduje príznaky včasného varovania u detí, ktoré môžu byť vystavené riziku budúcich násilných činov.

Táto myšlienka, nazvaná BERTHA, bola vyhodnotená ako program na vyhodnotenie hrozieb správania. Táto myšlienka vyplynula z masovej streľby na spoločnosť Virginia Tech v roku 2007, kedy bolo zavraždených 32 ľudí - jeden z najsmrteľnejších v histórii USA. Februárová streľba na strednej škole Marjoryho Stonemana Douglasa v Parklande na Floride, pri ktorej zahynulo 17 ľudí, priniesla viac pozornosti tejto problematike, opäť zdôraznenej v máji, streľbou na strednej škole v Santa Fe v Texase, kde bolo zabitých 10 študentov a učiteľov.

Školská streľba obetí od roku 1989, Zdroj: Matka Jones

Program hodnotenia rizika je koncipovaný ako bezpečnostná sieť na zachytenie detí, ktoré môžu potrebovať pomoc a zásah skôr, ako sa stanú samovražednými alebo násilnými. Ako sa ukázalo po každom predchádzajúcom incidente, administrátori, rodičia a študenti sa čudujú, prečo si včasné varovné signály - ako napríklad kyberšikana, narážky na zbrane a odkazy na streľbu na Columbine High School v Colorade v roku 1999 - predtým nevšimli.

Používanie AI na hľadanie indícií

Výzvou bola obtiažnosť preosievania cez hory údajov generovaných na fórach a účtoch sociálnych médií s cieľom nájsť niekoľko ihiel, ktoré by mohli upozorniť školského poradcu alebo psychológa, že dieťa má problémy. Správcovia preto na filtrovanie takýchto indícií online využívajú nástroje umelej inteligencie.

"Naším cieľom je zabezpečiť, aby dieťa nikdy nechcelo nosiť so sebou zbraň do školy."

„Sme súčasťou AI,“ vysvetlila Mina Lux, zakladateľka a generálna riaditeľka spoločnosti New York Meelo Logic. Jej spoločnosť pracuje na programe BERTHA s firmou Firestorm s cieľom vykonať počiatočné ťažké zdvíhanie triedenia dát, ktoré sa stali známymi ako veľké dáta. "Našim zameraním je automatizácia znalostí na pochopenie kontextu."

Softvér spoločnosti Meelo dokáže sledovať komentáre a príspevky späť k pôvodnému zdroju. Spoločnosť označuje tento proces ako kauzálne zdôvodnenie, ale je to analogické s hľadaním nulového pacienta, pôvodného jedinca, nad ktorým mohol vyjadriť znepokojenie niekto iný.

„Zvyčajne dôjde k počiatočnému výbuchu online a zámerne ho zverejňujú - môže to byť výzva na pomoc,“ vysvetlil Hart Brown, prevádzkový riaditeľ spoločnosti Firestorm. "A v 80 percentách prípadov to vie aspoň jedna ďalšia osoba, takže aj keď je prvý príspevok súkromný, pravdepodobne ho zverejní niekto iný."

Program AI poskytuje počiatočný skríning na základe použitých slangových výrazov, kontextu, umiestnenia a súvisiacich odkazov. Potom panel BERTHA spoločnosti Firestorm označí aktivitu kvôli možnému zásahu. To je miesto, kde ľudia - poradcovia, učitelia, psychológovia - vstupujú do posudzovania, či existuje skutočná hrozba, či dieťa potrebuje osobitnú pozornosť, pretože vykazuje zlosť alebo samovražedné sklony, alebo či je činnosť benígna.

Výzvou bola obtiažnosť preosievania údajov generovaných na fórach a sociálnych sieťach cez hory.

„Za rozhodnutie však nie je zodpovedná žiadna osoba,“ uviedla Brenda Truelove, správkyňa programu na Alabamskej univerzite, ktorá spolupracuje s programom Firestorm na celom programe a súvisiacom e-learningovom programe pre pedagógov po celej krajine. "Jednej osobe môže niečo chýbať, takže je to tím ľudí, ktorí rozhodujú, čo robiť."

Truelove poznamenal, že program je založený na skúsenostiach učiteľov, forenzných psychológov a ďalších odborníkov s cieľom vytvoriť vzorec pre riešenie potenciálnych kríz.

Znamená zvýšená bezpečnosť menej súkromia?

Aj keď potenciál AI v predchádzaní budúcim streľbám na škole môže byť sľubný, takéto sledovanie a analýza údajov vyvolávajú nevyhnutné obavy o súkromie a presnosť a o to, či bezpečnosť preváži akékoľvek obavy.

Bryce Albert, študent deviateho ročníka strednej školy Marjory Stoneman Douglas High School, bol na chodbe na treťom poschodí, keď strelec začal strieľať na študentov. Keď Albert videl vraha prichádzať z haly, učiteľ pustil Alberta do triedy a on prežil. Od tejto skúsenosti zmenil názor na súkromie.

"Predtým som bol rád, nechoďte do mojich vecí," povedal Albert pre Digital Trends o orgánoch sledujúcich jeho využitie v sociálnych sieťach. "Ale teraz som úplne zmenil názor."

Meelo’s Lux zdôraznil, že programy umelej inteligencie nemajú prístup k žiadnym súkromným účtom; všetky informácie sú verejné. Firestorm’s Loughlin zdôraznil skutočnosť, že sami nezhromažďujú a neuchovávajú údaje. Udržiavajú ho jednotlivé školy, ktoré už majú skúsenosti s vedením záznamov študentov. (Spoločnosť Firestorm účtuje licenčný poplatok vo výške 2 500 dolárov za školu, zatiaľ čo University of Alabama ponúka bezplatný online školiaci kurz pre pedagógov Alabama K-12. Školy môžu tiež bezplatne pracovať na svojich vlastných projektoch včasného varovania pomocou základného vzorca spoločnosti Firestorm s deviatimi krokmi pre týchto programov.)

Lux uznáva, že jemné jazykové mutácie, ako napríklad sarkazmus, môžu byť pre akýkoľvek výskum AI náročné. Meelo sa zameriava skôr na textovú analýzu ako na druh obrazovej analýzy, ktorú študujú iné spoločnosti zaoberajúce sa umelou inteligenciou, napríklad Cortica. Stále existuje priestor na nesprávnu interpretáciu aj pre ľudských účastníkov.

"Je ťažké získať emócie prostredníctvom textových správ," uznal Albert.

Na druhej strane, nezaujatý program nehrá obľúbencov alebo neignoruje druhy emocionálnych zmien alebo zmien v správaní, ktoré by mohli naznačovať, že nastávajú problémy.

AI je stále iba počiatočným filtrom alebo nástrojom na zastavenie budúcich streľieb na školách.

"Nakoniec to môže byť presnejšie, ak eliminujete čo najviac zaujatosti," uviedol Firestorm’s Brown. Personalista alebo poradca môže minimalizovať emočné výbuchy človeka, napríklad tým, že hovorí, že sa to deje neustále. Počítač, ktorý odblokuje odkaz, sa nijako neospravedlňuje.

"Ale stále to vyžaduje ľudský dotyk, aby ste to dotiahli do konca, aby ste s touto osobou mohli urobiť rozhovor," povedal Brown. "Počítač neurčí, či je potrebné túto osobu vylúčiť alebo či potrebuje radu."

AI je nástroj, nie riešenie

Všetci odborníci, s ktorými Digital Trends hovorili, pre tento príbeh zdôraznili skutočnosť, že AI je stále iba počiatočným filtrom alebo nástrojom na zastavenie budúcich streľieb na školách. Môže generovať upozornenia na ohrozené deti, ale nemôže pedagógom povedať, ako, kedy alebo či majú zasiahnuť. Školy stále potrebujú svoj vlastný tím odborníkov - od učiteľov, ktorí študentov poznajú, až po psychológov - a je pravdepodobné, že ich budú potrebovať aj naďalej.

"Štatistiky ukazujú, že pri každom školskom streľbe je vyššia pravdepodobnosť, že dôjde k ďalšiemu streľbe v škole," uviedol Lux.

Nakoniec je najdôležitejším faktorom ľudský prvok. "Porozprávajte sa s ľuďmi a požiadajte o pomoc," povedal Albert. "Nebojte sa požiadať o pomoc."