Non detesto l’intelligenza artificiale. Vorrei chiarirlo fin dall’inizio. Ho trascorso parte delle vacanze natalizie a costruire il mio server di intelligenza artificiale. Utilizzo strumenti di intelligenza artificiale nel mio lavoro. Ritengo che questa tecnologia abbia un potenziale reale nell’automatizzare attività noiose che richiedono tempo ed energie, consentendoci così di dedicarci a compiti più significativi.
Ma sono anche un musicista e il mio lavoro, come quello di innumerevoli altri artisti, è stato quasi certamente utilizzato per addestrare modelli di intelligenza artificiale. Non mi è stato chiesto il permesso. Non ho ricevuto alcun compenso.
Pertanto, quando CultureSuite ha iniziato ad adottare più ampiamente gli strumenti di intelligenza artificiale, ho sentito il bisogno di esaminare più attentamente ciò a cui stavamo aderendo. Quello che ho scoperto mi ha turbato. E ciò che mi turba ancora di più è che quasi nessuno nel nostro settore sembra parlarne.
I risultati sconcertanti
La maggior parte di noi è a conoscenza delle questioni relative al diritto d’autore: gli archivi saccheggiati, le opere d’arte rubate, le cause legali. Ma i problemi sono ben più profondi.
Il costo in termini umani è sconcertante. I principali fornitori di IA hanno esternalizzato attività essenziali in paesi come il Kenya, le Filippine e l’India. I lavoratori ricevono una retribuzione di appena 2 dollari l’ora per esaminare e classificare i contenuti. Questi lavoratori sono esposti a scene di violenza esplicita e a materiale traumatico, spesso con un sostegno psicologico minimo. Alcune indagini hanno definito tali condizioni come «fabbriche digitali dello sfruttamento».
Questo è il lavoro nascosto che permette all’intelligenza artificiale di «funzionare». Ogni volta che utilizziamo questi strumenti, ne traiamo beneficio.
L’impatto ambientale è notevole. Una singola richiesta inviata a un modello linguistico di grandi dimensioni consuma energia sufficiente a ricaricare uno smartphone. I data center richiedono enormi quantità d’acqua per il raffreddamento. Per un settore attento alla sostenibilità , questo dovrebbe essere un aspetto importante.
Il problema dei pregiudizi mina i nostri valori. Alcune ricerche hanno dimostrato che i sistemi di intelligenza artificiale discriminano in base al dialetto e associano le donne in modo sproporzionato ai ruoli domestici. Per un settore che promuove la diversità e la rappresentanza, l’uso acritico di questi strumenti rischia di minare i valori che affermiamo di sostenere.
Ciò che ancora non so
Ho dedicato mesi a questa ricerca e non sono neanche lontanamente vicino ad avere tutte le risposte. Non so come conciliare l’autentica utilità dell’IA con i suoi gravi danni. Non so dove si trovi il confine tra adozione pragmatica e compromesso etico. Non so come le piccole organizzazioni prive di competenze tecniche riescano a orientarsi in questo panorama, quando persino quelle dotate di risorse lo trovano opprimente. Non so se un’azione collettiva a livello settoriale farebbe alcuna differenza per le aziende che operano su scala globale.
Quello che so è che ho svolto queste ricerche quasi interamente da solo. E immagino che lo stesso valga per molti di voi.
Quello che so
L’intelligenza artificiale non scomparirà . Dobbiamo trovare il modo di utilizzare questi strumenti senza compromettere le nostre responsabilità etiche, morali e ambientali.
Vedo grandi potenzialità nella comunità open source. Noto un approccio diverso, caratterizzato da un impegno notevole nel rendere l’intelligenza artificiale accessibile su hardware di fascia consumer, riducendo così in modo significativo l’impatto ambientale.
Si sta inoltre promuovendo l’addestramento di modelli più piccoli su dati open source analoghi, il che ci consentirà , in ultima analisi, di disporre di strumenti più mirati, la cui provenienza in termini di fonti dei dati sia comprovata.
Non dovremmo farlo separatamente
Il settore culturale è pieno di persone che cercano di orientarsi nell’adozione dell’intelligenza artificiale agendo in modo isolato. Alcuni si stanno lanciando a capofitto. Altri stanno temporeggiando. La maggior parte prende decisioni senza disporre di tutte le informazioni necessarie, perché chi ha il tempo di leggere articoli accademici sui pregiudizi algoritmici quando c’è una stagione da programmare e biglietti da vendere?
Capisco la pressione. La prospettiva che l’intelligenza artificiale possa risolvere i nostri problemi di risorse è allettante, soprattutto per un settore che soffre di una cronica carenza di fondi.
Ma insieme otteniamo risultati migliori. Condividiamo le nostre conoscenze sui sistemi di gestione dei ticket e sulle piattaforme CRM. Collaboriamo sugli standard di accessibilità . Applichiamo lo stesso spirito di collaborazione anche all’intelligenza artificiale.
Cosa cercare
Per chi desidera un punto di partenza, ecco cosa emerge dalla mia ricerca:
- Ricerca di fornitori di IA ecologica – Un numero crescente di aziende sta sviluppando alternative sostenibili utilizzando modelli open source che richiedono una quantità minima di energia.
- Cercate politiche di conservazione dei dati pari a zero: ciò significa che il fornitore non memorizza le vostre ricerche né le utilizza per addestrare i propri modelli. Ciò è particolarmente importante se gestite dati relativi a clienti o artisti.
- Verifichi dove vengono archiviati i suoi dati: la conformità al GDPR è fondamentale. Alcuni fornitori garantiscono l'utilizzo di server europei. Le piattaforme più grandi spesso non specificano dove finiscono i suoi dati.
- Poni domande dirette ai fornitori: se un fornitore non è in grado di spiegare le proprie pratiche ambientali, le condizioni di lavoro dei dipendenti o le politiche relative ai dati, è un campanello d'allarme.
- Eviti di utilizzare l'IA nei punti di contatto con i clienti finché non ne avrà acquisito piena fiducia: la sperimentazione interna comporta pochi rischi. Quando l'IA entra in contatto con il pubblico o con gli artisti, proceda con cautela.
- Non imponga l'uso dell'intelligenza artificiale al suo team: si fidi della loro competenza nel capire quando potrebbe essere uno strumento utile da adottare.
- Sviluppate competenze, non dipendenze: se il vostro team non è in grado di operare senza l'intelligenza artificiale, si tratta di un punto debole, non di un punto di forza.
Un invito
Mi piacerebbe sentire l’opinione di chi si sta confrontando con questa questione. Quali sono le vostre esperienze? Cosa avete imparato? Se c’è interesse, forse potremmo creare insieme qualcosa di più strutturato: uno spazio in cui il settore possa condividere ricerche, valutare strumenti e sviluppare linee guida. Ma deve trattarsi di un’iniziativa realmente collaborativa, non di un’iniziativa di una singola azienda.
Se desidera partecipare a questa discussione, può contattarmi qui. Non posso prometterle che avrò delle risposte, ma posso prometterle che la ascolterò.
