Attenzione!
Il contenuto di questo sito è
altamente digitale!
CASE HISTORY
Kaitiaki
App per la sicurezza social dei propri figli
CYBERBULLISMO, IA, NATURAL LANGUAGE PROCESSING, SOCIAL NETWORK, MOBILE APP
Kaitiaki è un servizio online che analizza e monitora i profili social dei figli allo scopo di avvisare i genitori in caso vengano rilevate situazioni pericolose di cyberbullismo, sexsting, hate speech.
Esigenza
L'obiettivo principale era quella di realizzare un sistema in grado di monitorare i profili social dei figli come Facebook, Instagram, WhatsApp, analizzarne i contenuti ed avvisare i genitori nel caso in cui si rilevassero post o messaggi pericolosi o malevoli.
soluzione
Assieme a Kaitiki abbiamo realizzato un'App mobile per gli ambienti iOS e Android multiutente (genitore e figlio) in grado di agganciare i profili social del figlio e di monitorare la situazione fornendo delle dashboard di riepilogo rapide ed intuitive.
L'App mobile si interfaccia con un sistema back-end che analizza i testi ed i contenuti multimediali attraverso tecniche di Natural Language Processing e categorizza i post distinguendo quelli malevoli da quelli innocui.
Il sistema agisce nel completo rispetto della privacy e nel pieno rispetto del Regolamento Europeo GDPR. Kaitiaki impedisce l'accesso ai profili social del figlio ai genitori, ma li avvisa attraverso un sistema di push notification solo nel caso venga rilevato un post pericoloso.
soluzione
Assieme a Kaitiki abbiamo realizzato un'App mobile per gli ambienti iOS e Android multiutente (genitore e figlio) in grado di agganciare i profili social del figlio e di monitorare la situazione fornendo delle dashboard di riepilogo rapide ed intuitive.
L'App mobile si interfaccia con un sistema back-end che analizza i testi ed i contenuti multimediali attraverso tecniche di Natural Language Processing e categorizza i post distinguendo quelli malevoli da quelli innocui.
Il sistema agisce nel completo rispetto della privacy e nel pieno rispetto del Regolamento Europeo GDPR. Kaitiaki impedisce l'accesso ai profili social del figlio ai genitori, ma li avvisa attraverso un sistema di push notification solo nel caso venga rilevato un post pericoloso.
Dettagli tecnici
Durata: 12 mesi
Tecnologie: Kotlin, Swift
Team: 1 Mobile Android, 1 Mobile iOS, 1 UX, 1 PM
APP genitore
Attraverso l'applicazione il genitore ha la possibilità di tenere monitorate le situazioni dei propri figli in ogni istante. Attraverso l'app è possibile risalire al contenuto del messaggio malevolo e visualizzare informazioni come la data di ricezione, il mittente, la categoria del messaggio.
APP figlio
L'accesso all'app come figlio permette di collegare i canali social che si desidera monitorare. I canali supportati comprendono tutti i principali Social Network e non solo:
Facebook- Instagram
- Twitter
- WhatsApp
- You Tube
Monitoraggio social & IA
Una volta collegati i canali social dei figli, i server di Kaitiaki avvieranno i processi di monitoraggio delle piattaforme.
Tutti i contenuti vengono analizzati alla ricerca di messaggi sospetti attraverso tecniche di Natural Language Processing. Una rete neurale addestrata a rilevare frasi di carattere offensivo, volgare o a sfondo sessuale categorizza i messaggi e notifica i genitori con un allarme.
Non sai da dove iniziare?
Guarda la prossima case
Hai un progetto in mente?