“Benvenuti nella nuova era, dove qualsiasi cosa desideriate è realizzabile con estremo realismo”: così esordisce un utente nella parte oscura della rete, commentando i chatbot.
Da due studi emerge come questi strumenti vengano utilizzati anche per ruolare rapporti di violenze, stupri e pedofilia. Nel 97% dei casi le vittime impersonate dai bot sono ragazze ed è possibile conversare con loro anche su app rinomate con 20 milioni di utenti mensili, che offrono varie personalità con cui dialogare. “Moglie maltrattata” è una di queste: quando non ascolta o sbaglia, la si picchia. “Scolaretta timida” e “bimbÉ™ seducente” altre: l’ultima recita che “è qui per soddisfare i tuoi desideri”. Altre app offrono invece scenari, come “stupro”, “incesto” e “loli” (lolita); il tutto senza controlli.
Per quanto in certi casi queste app siano state bandite e/o finite in tribunale in singole nazioni, la risposta non viene ritenuta all’altezza: c’è chi propone di introdurre un reato di “sviluppo pericoloso” per i chatbot, chi invece vuole obbligare le aziende a eseguire delle verifiche prima del rilascio. A prescindere, l’urgenza resta palpabile e viene richiesta alle nazioni una celerità nell’agire.