Le implicazioni per il mondo della gestione delle risorse umane del Regolamento Europeo sull’intelligenza artificiale

16 June 2021 / Di Martina Mauri / 0 Comments

Lo scorso 21 aprile è stata pubblicata la bozza ufficiale del Regolamento sull'approccio europeo per l'intelligenza artificiale della Commissione Europea. Passo che si è reso necessario data la grande accelerazione che questa tecnologia ha avuto negli ultimi anni e sta avendo con la pandemia.

 

Le nuove norme seguono un approccio basato sul rischio: alcuni sistemi di AI ritenuti "a rischio inaccettabile" saranno vietati e altri sistemi considerati "ad alto rischio" saranno sottoposti a norme prescrittive. Rientrano nel divieto di utilizzo tutti quei sistemi che circonvengono il comportamento dell'utilizzatore e ne manipolano il comportamento, individuano vulnerabilità di uno specifico gruppo ai fini di danneggiarlo e utilizzano i dati per classificare la reputazione dei cittadini (social scoring).

"Ad alto rischio", invece, tutti quei sistemi che determinano un impatto potenzialmente negativo sulla sicurezza delle persone o sui loro diritti fondamentali. Tra questi, alcuni sistemi legati al mondo HR, in particolare inerenti alle seguenti aree:

  • Ricerca e selezione: sistemi di AI per lo screening dei candidati, la creazione di graduatorie, il matching e sistemi a supporto della valutazione del candidato nel corso di colloqui o test
  • Talent management: sistemi di AI che supportano la presa di decisioni in merito a promozioni, ad attività formative e all'assegnazione delle attività lavorative e il monitoraggio/valutazione delle prestazioni

Il regolamento richiede che i fornitori e gli utenti di sistemi di intelligenza artificiale "ad alto rischio" debbano:

  • Comprenderne l'output e utilizzarlo in modo equo e appropriato
  • Predisporre un adeguato sistema di gestione dei rischi
  • Garantire la correttezza dei data-set e minimizzare il rischio di risultati discriminatori
  • Garantire la tracciabilità dei risultati mediante sistemi di logging
  • Predisporre una documentazione tecnica che fornisca tutte le informazioni necessarie sul sistema e sul suo scopo per valutarne la conformità ai requisiti
  • Predisporre un’informativa chiara e trasparente agli utenti
  • Predisporre misure robuste di cybersecurity
  • Garantire la supervisione umana del sistema di intelligenza artificiale per ridurre al minimo i rischi

Diviene quindi fondamentale per la Direzione HR comprendere quali degli strumenti adottati utilizzano algoritmi di intelligenza artificiale, come funzionano e quali errori potrebbero commettere.

 

L'intelligenza artificiale, infatti, rappresenta una grande opportunità per la Direzione HR, ma se non adeguatamente controllata e addestrata può incorrere in pregiudizi. I dati utilizzati per addestrare i sistemi di intelligenza artificiale si basano su decisioni umane, che potrebbero avere insiti dei bias. Celebre è il caso di Amazon: nel 2015 scoprì che l'algoritmo utilizzato in fase di recruiting discriminava le donne per ruoli di sviluppatori di software e altre posizioni ad alto contenuto tecnologico. Il sistema era infatti stato programmato utilizzando i CV presentati alla società nell'arco di 10 anni, la maggior parte di questi proveniva da uomini. I sistemi di intelligenza artificiale possono offrire un importante supporto alla presa di decisioni in ambito HR, mostrando correlazioni che altrimenti difficilmente si potrebbero intuire, ma non forniscono risposte. Il ruolo della Direzione HR è e rimarrà centrale, ma deve evolvere sviluppando competenze analitiche e assumendo un ruolo più strategico all'interno dell'organizzazione. Abbracciando questa nuova tecnologia e adattandosi ai nuovi requisiti dei loro ruoli, i professionisti delle risorse umane dovranno diventare consumatori consapevoli sia del potenziale che dei limiti degli strumenti basati sull'intelligenza artificiale.

Il regolamento europeo può giocare una parte importante in questo percorso spingendo il mercato a fare maggiore chiarezza su come vengono etichettate le varie tecnologie in modo da aiutare la Direzione HR ad essere più informata e consapevole dei sistemi in uso. Spesso, infatti, il termine intelligenza artificiale viene utilizzato in maniera impropria per indicare semplici algoritmi automatizzati, alimentando così la confusione da parte dei professionisti HR, che da poco hanno iniziato a sperimentare queste soluzioni.

Non a caso, secondo la Ricerca 2021 dell'Osservatorio HR Innovation Practice, la mancanza di competenze analitiche da parte della Direzione HR è proprio una delle principali barriere all'utilizzo e alla valorizzazione dei dati. In Italia è il 15% delle Direzioni HR ad utilizzare almeno uno strumento di intelligenza artificiale. I sistemi più utilizzati appartengono alla categoria dei chatbot, che oltre a supportare la navigazione degli applicativi, possono alimentare la raccolta di informazioni inerenti alle attività amministrative e nei casi più evoluti, venire utilizzati per lo screening dei candidati. Inoltre, incominciano a diffondersi piattaforme di formazione che utilizzano logiche di adaptive learning per personalizzare l'esperienza del discente (modalità di fruizione e tempi) e algoritmi di elaborazione del linguaggio naturale, ad esempio nella fase di selezione per effettuare lo screening dei CV.

Nel complesso, come emerge dai dati della Ricerca, l'utilizzo di soluzioni di AI in ambito HR è ancora limitato e il percorso verso un'adozione consapevole è ancora lungo. Un ruolo di rilievo in questa trasformazione potrebbe essere proprio giocato dal regolamento europeo.

 

Vuoi approfondire l'impatto della trasformazione digitale e delle nuove tecnologie sulla gestione delle risorse umane?

INIZIA IL PERCORSO

Ricercatrice dell'Osservatorio HR Innovation Practice e dell'Osservatorio Smart Working del Politecnico di Milano