Wiki
Sobre l’ètica en l’àmbit de la intel·ligència artificial i la governança algorítmica en el sector públic i privat
Requisits de compleció
Visualitza
Sobre l’ètica en l’àmbit de la intel·ligència artificial i la governança algorítmica en el sector públic i privat
Els sistemes basats en la intel·ligència artificial en els àmbits públics i privats han de ser fiables i s’han de dissenyar de manera respectuosa amb la privadesa i l’ètica sobre la base de criteris de verificabilitat transparents. La confiança en el desenvolupament, el desplegament i l’ús d’aquests sistemes es refereix, no només a les propietats inherents de la tecnologia, sinó també a les qualitats sociotècniques, que impliquen la inclusió de tots els actors i processos que formen part del sistema durant tot el cicle.
- L’ús de la intel·ligència artificial ha de ser auditable per agents interns, externs i per la població, la qual cosa suposa poder reconstruir com i per què els sistemes basats en intel·ligència artificial es comporten d’una manera determinada.
- Les decisions d’algoritmes basats en intel·ligència artificial que tenen impacte social i sobre les persones han de ser constantment supervisades per éssers humans i aplicades amb mesures de contingència adequades, que no justifiquin abusos, ni per acció, ni per inacció, ni que en responsabilitzin les persones que hi treballen.
- L’ús i aplicació de sistemes basats en la intel·ligència artificial ha de tenir en compte la diversitat social del context des del moment en què es comencen a desenvolupar per garantir que els algoritmes en què es basin aquests sistemes no tinguin biaixos il·legals o no ètics, directes o indirectes.
- L’ús de sistemes basats en intel·ligència artificial ha de tenir en compte la diversitat social, cultural i econòmica del context ja des del disseny per garantir que els algoritmes i el conjunt de dades en què es basin no tinguin biaixos discriminatoris directes o indirectes.
- Qui interactuï amb sistemes basats en intel·ligència artificial o estigui subjecte a les seves decisions ha de saber que es tracta de sistemes que usen la intel·ligència artificial per obtenir un resultat, i ha de conèixer amb quins paràmetres i amb quines dades actuen, així com quin n’és el marc de responsabilitats, en el qual no s’han de permetre exempcions abusives.
