La Power Machine del Foodsystem – Riflettiamo sull’IA Agroalimentare: sfide etiche, potere e inclusività
La “Moral Machine” è un progetto sviluppato dal MIT Media Lab di Boston. Esplora i dilemmi morali associati alle auto a guida autonoma attraverso un gioco online. Gli utenti sono messi di fronte a ipotesi etiche in cui devono decidere quale vita salvare in situazioni estreme, come ad esempio scegliere se investire un gruppo di pedoni o deviare e mettere in pericolo il passeggero dell’auto; le variabili sono molte, salvare o investire, donne, atleti, anziani, ladri, persone con alto o basso reddito, virtuose o meno, animali.
L’obiettivo della Moral Machine è raccogliere dati sulle preferenze morali delle persone per comprendere come le diverse culture rispondano a questi scenari possibili nel rapporto tra AI e umanità. Gli studi delle risposte hanno rivelato che le preferenze morali variano significativamente tra diverse nazioni e culture. La risposta finale è che non esiste una risposta universale ai dilemmi morali posti davanti al rapporto tra intelligenza artificiale e umanità.
Ma oltre agli aspetti etici c’è la questione di chi detiene il potere dello sviluppo e decisionale sull’intelligenza artificiale nell’agricoltura e nella produzione alimentare così come la proprietà dei dati; questo è il tema centrale ancor più della questione tecnologica e di quella etica. Lo sviluppo e la governance dell’AI anche in questo settore è in mano a pochi, troppo pochi. Si può pensare allora a una Power Machine per il sistema agroalimentare che inizi una discussione su un metodo deliberativo che definisca cosa deve diventare la AI nel settore agroalimentare e a come deve diventare?
Il digitale e la AI ormai sono necessari in ogni contesto compreso quello agroalimentare. È tempo allora di ricercare riflessioni critiche su come l’AI sta plasmando le relazioni di potere nel sistema alimentare, di come generare dati utili a capire sulle percezioni e preferenze del pubblico che potrebbero informare lo sviluppo di politiche, di ispirare dibattiti e deliberazioni tra le diverse parti interessate su come governare l’AI per un’agricoltura delle comunità.
Oggi, lo sviluppo e l’implementazione dell’AI in agricoltura sono in gran parte guidati da grandi aziende tecnologiche e da grandi aziende agricole globali. Una concentrazione di potere che preoccupa circa l’autonomia digitale degli agricoltori e delle comunità locali. Se gli agricoltori diventano dipendenti da piattaforme e strumenti di AI proprietarie per prendere decisioni critiche, potrebbero perdere il controllo sui propri sistemi produttivi? Così fosse andremo incontro a una perdita di conoscenze agricole tradizionali e di resilienza locale e le esigenze dei piccoli agricoltori, delle comunità indigene o dei consumatori finirebbero per essere trascurate a favore di soluzioni che favoriscono l’agricoltura industriale su larga scala. C’è poi anche la questione locale. La concentrazione del potere sull’AI potrebbe portare a disequilibri anche sulle questioni di comunità alimentare. Se le decisioni chiave sulla produzione agricola sono prese da algoritmi controllati da aziende straniere, i paesi e le comunità locali potrebbero perdere il controllo sulla propria politica alimentare.
Alcuni esempi forse possono definire meglio i contesti.
1. Accesso ai dati: le grandi aziende che controllano le piattaforme AI possono limitare l’accesso dei piccoli agricoltori ai propri dati, creando dipendenza e riducendo l’autonomia.
2. Bias algoritmico: gli algoritmi di AI possono favorire discriminazioni sistemiche, ad esempio sfavorendo gli agricoltori delle comunità più piccole nell’accesso al credito o alle assicurazioni.
3. Competenze tecniche: le aziende agritech hanno il vantaggio nella sviluppo e nel designdegli strumenti di AI, lasciando gli agricoltori in svantaggio nel processo decisionale.
4. Proprietà intellettuale: la privatizzazione degli algoritmi di AI può limitare l’innovazione diffusa e l’adattamento alle condizioni locali.
5. Controllo del mercato: l’integrazione verticale di AI, robotica e dati può portare a un controllo del mercato da parte di pochi grandi attori, erodendo la concorrenza.
6. Partecipazione alla governance: gli agricoltori e le comunità locali sono spesso esclusi dai processi decisionali sullo sviluppo e l’implementazione dell’AI.
7. Responsabilità e rimedi: l’opacità degli algoritmi, le black box, delle AI rende difficile attribuire la responsabilità per le conseguenze negative delle sue azioni nell’avere magari dei risarcimenti.
Mentre la “Moral Machine” si concentra sui dilemmi etici che sorgono quando le decisioni sono delegate all’AI, una “Power Machine” potrebbe esaminare come l’AI riconfigura le relazioni di potere tra i vari attori del sistema alimentare. Un inizio di metodo per capire come potrebbero avvenire le deliberazioni di comunità nella discussione sulla AI e l’ecosistema agroalimentare. Come l’AI influenza la distribuzione del potere in termini:
di accesso: chi ha accesso agli strumenti e alle piattaforme di AI e a quali condizioni? come l’AI sta cambiando le barriere all’entrata e le dinamiche competitive nel settore agricolo?
di controllo: chi possiede e controlla i dati, gli algoritmi e l’infrastruttura su cui si basa l’AI? come influisce questo sulla capacità degli agricoltori di prendere decisioni autonome?
di benefici: chi trae vantaggio dall’uso dell’AI in termini di aumento dell’efficienza, riduzione dei costi o creazione di valore? come sono distribuiti questi benefici tra agricoltori, aziende tecnologiche, consumatori e altri attori?
di partecipazione: chi è coinvolto nella progettazione, sviluppo e governance dell’AI utilizzata in agricoltura? come sono rappresentati gli interessi e le conoscenze diverse nel processo?
e infine di responsabilità: chi è responsabile delle conseguenze dell’uso dell’AI, sia intenzionali che non intenzionali? Quali meccanismi di responsabilità esistono per prevenire o rimediare a danni o discriminazioni.
La Power Machine potrebbe mostrare una serie di scenari ipotetici ma plausibili in cui l’AI viene utilizzata per prendere decisioni critiche in agricoltura. Per ogni scenario, ai partecipanti vengono presentate informazioni di contesto e due opzioni di azione, ognuna con conseguenze diverse sulla distribuzione del potere.
Eccone alcune:
- Accesso ai dati. Un’azienda agritech offre a un piccolo agricoltore l’accesso gratuito a una piattaforma di AI per l’irrigazione di precisione in cambio dei diritti esclusivi sui dati generati. L’agricoltore dovrebbe accettare l’offerta per rimanere competitivo o rinunciare per mantenere il controllo sui propri dati?
- Bias algoritmico. Un algoritmo di AI utilizzato da una banca per valutare i prestiti agricoli viene scoperto a sfavore sistematicamente delle donne agricoltori a causa di dati storici distorti. La banca dovrebbe continuare a utilizzare l’algoritmo per l’efficienza o sospenderlo per evitare discriminazioni?
- Automazione. Una grande azienda agricola sta considerando di implementare droni AI per l’irroramento di precisione, riducendo la manodopera necessaria. Dovrebbe procedere per rimanere competitiva o astenersi per proteggere i posti di lavoro locali?
- Proprietà intellettuale. Un istituto di ricerca pubblico sviluppa un algoritmo di AI per ottimizzare l’allevamento del bestiame. Dovrebbe concedere in licenza l’algoritmo a una società privata per la commercializzazione o renderlo open source per l’adozione diffusa?
Dopo ogni scelta, ai partecipanti viene mostrato come la loro decisione influisce sulla distribuzione del potere in termini di accesso, controllo, benefici, partecipazione e responsabilità. Alla fine, ricevono un riepilogo di come le loro scelte si sommano a una visione particolare del futuro dell’agricoltura guidata dall’AI.
La Power Machine ci insegna che le decisioni sul potere dei processi che riguardano la AI non possono essere lasciate solo alle aziende che la sviluppano e la detengono. Serve un processo deliberativo inclusivo, che coinvolga tutti i portatori di interesse, per definire collettivamente i principi e i criteri che devono guidare l’innovazione tecnologica nell’agroalimentare. Trovare l’equilibrio di potere richiede una visione olistica o meglio ecologica. Garantendo che gli attori del sistema agroalimentare abbiano voce in capitolo nello sviluppo e nell’implementazione delle soluzioni di AI e proteggendo al contempo i loro diritti sui dati e la loro autonomia. E come le diversità dei dilemmi morali anche qui nella redistribuzione del potere è importante riconoscere che l’opportunità dell’AI in agricoltura può variare a seconda delle culture e delle visioni del mondo locali. Alcune culture possono vedere l’AI come uno strumento per dominare la natura, altre possono enfatizzare l’armonia e la gestione. Rimane che qualsiasi progetto tra Ai e foodsystem deve essere sensibile a queste differenze e disegnato con le comunità interessate. Rural hack ci sta provando e chi vuol dare una mano è benvenuto.