Proxy, robot e industria
L’etica nell’industria deve essere conveniente
Andrea, filosofo studioso che studia, ha di recente scritto un saggio-appunto su Macchine, proxy e enti artificiali. Questo fa parte di un percorso che abbiamo iniziato come opensensorsdata che parte dalla cibernetica per analizzare la trasmissione dei messaggi da uomo e macchina e macchina e macchina. Il primo argomento dello scritto affronta il trolley problem, ovvero la decisione programmata di un’auto rispetto ad una scelta: investire delle persone sulla propria traiettoria o sterzare e mettere a repentaglio il passeggero?
La nostra fortuna è avere amici come Cristian Consonni che ci spingono a mettere in dubbio e ad analizzare meglio ogni nostro passo.
Cristian ha pubblicato un’interessante risposta ad Andrea: Un commento sul trolley problem e sull’agenzialità delle macchine.
Non mi dilungo sul rispetto e la stima che ho per Cristian, ma in un commento ho definito “ingenua” la sua ipotesi e ritengo doveroso argomentare.
La scelta di un prodotto
Un prodotto generamente è acquistato perché conviene all’acquirente. Da vari punti di vista: utilità, costo, funzione, aspetto. Recentemente si è aggiunto anche l’aspetto etico e quindi: ecologia, etica.
Questi elementi incidono, come ogni aspetto, nei costi di produzione. Voglio qualcosa prodotto non industrialmente, con materie prime non inquinanti e lavorate da persone non sottopagate? I costi aumentano.
Quanto si è disposti a pagare in più?
Aggiungo una complicazione: si è in grado di comprendere se i costi maggiori corrispondono veramente a quello dichiarato (maggiore ecologia, rispetto dei lavoratori, ecc…)?
Inoltre: ho dei guadagni tali da permettermi il lusso di poter scegliere di pagare di più?
Le funzioni di un prodotto
Andrea ipotizza due tipi di auto a giuda automatica: una che sceglie di salvare l’autista, una che sceglie di salvare eventuali persone che potrebbero essere in traiettoria dell’auto.
Un’opzione che non viene considerata è che l’etica di un veicolo si possa impostare come uno o più parametri, ovvero come un setting regolabile del veicolo stesso. Personalmente ritengo che questo scenario sia preferibile ai precedenti e che fornisca anche una giustificazione maggiore all’idea che le auto siano dei proxy del guidatore.
In questo modo ogni guidatore sarebbe descritto da un proprio profilo etico, ovvero una serie di parametri che alterino il comportamento dell’auto a guida autonoma in situazioni che richiedano una scelta etica. Il profilo etico permetterebbe all’auto di “[comportarsi] come il cliente si comporterebbe se fosse lui a guidarla”.
Questo ha dei costi produttivi. Molto alti.
Significa creare e sviluppare:
- due intelligenze
- un’interfaccia usabile da chiunque per far effettuare la scelta da qualsiasi utente
- due team di sviluppo
- due diversi servizi di assistenza
Quanto aumentano i costi? Quanto una scelta etica è sostenibile?
La parcellizzazione e la sostenibilità
Il buon Enzo Mari parla da sempre di come l’industria sfrutti proprio la contrazione dei costi nella parcellizzazione per aumentare i margini di profitto. Queste contrazioni avvengono sempre a discapito di qualcuno o qualcosa: o delle persone (lavoratori e/o acquirenti) o delle cose (prodotto e/o elementi di produzione).
Il punto che interessa alla mia argomentazione è al minuto 11:50, dove fa l’esempio di Ikea.
Chi non acquista da Ikea? Ognuno di noi ha acquistato almeno una cosa. Eppure Ikea ha effettuato sistematicamente un furto — o quanto meno non dichiara esplicitamente — qual’è la fonte del proprio stile: Artek.
Facciamo un esempio:
Questa è la poltrona creata da Alvar Aalto nel 1936. Il costo di questa poltrona originale di Artek (che è l’azienda fondata proprio da lui) costa più di 4000€.
Da Ikea, la Pello, costa 39,99€.
Al netto di tutti i discorsi: quella di Artek è originale, ha materie prime migliori, ha un design migliore, è fatta (magari, ma non ne ho le prove) con manodopera pagata al giusto prezzo ecc ecc… quale acquisterete? e in ogni caso, potreste permettervi 4000€ per una poltrona? Io, purtroppo (per ora, spero) no!
Nell’industria l’etica deve essere conveniente
L’idea di Cristian mi sembra ingenua proprio per quanto detto sopra: lui considera una scelta ma non tiene conto della produzione. I due esempi sono legati alla produzione e ai costi, quello che scrive Cristian prevede un livello di settaggio che — in qualsiasi sistema produttivo — impone dei costi troppo alti per resistere al mercato. Lui dice “eh… Ma è etico!” Ed è proprio su questo che nasce il problema: lui valuta l’etica e la scelta in base alle sue capacità, ma se esce da queste nemmeno lui può permettersi di essere etico.
Le sue capacità intellettuali e tecnologiche gli consentirebbero di poter settare l’auto senza necessità di un’interfaccia. Ma quanti potrebbero farlo? Quanti comprerebbero un’auto così? E uscendo, teoricamente da questo ambito tecnologico, quante scelte sono opzionali nei prodotti di tutti i giorni? Siamo sicuri che se le nostre felpe, le nostre scarpe — tutti quei prodotti a cui non destiniamo priorità — fossero prodotte da un sistema industriale al ribasso (lo è sicuramente vista la bassa qualità del suo vestiario), avremmo la capacità di produrcele?
No, e non avremmo nemmeno la possibilità di studiare perché la strumentazione produttiva non potremmo ottenerla.
Il mondo è cattivo, e l’opzione “lascio libero di scegliere” ha costi così alti che non sempre ce li possiamo permettere.
L’etica e la convenienza
Come dice spesso il nostro Dr. Manhattan:
Il mondo sceglie la convenienza. Sceglie il bene solo se è anche conveniente.
Così come nessuno sceglie le energie rinnovabili se non sono anche convenienti rispetto al carbone. Certo… hai un Delta che — da uno shift negativo al prezzo accettato — sei disponibile a pagarlo marginalmente di piu’ per avere una sensazione di tepore allo stomaco
Fare un’industria etica costa ed è un loop che parte dalla disponibilità di spesa. Ma prima ancora dalla comprensione della qualità. Deve essere quella a comandare. Scelgo Linux perché è etico rispetto ad Apple? ok, ma quanto costo m’impone Linux in termini di ore di studio e di mantenimento? Entrambi riescono a stare sul mercato con proposte diverse perché si rivolgono a segmenti diversi (Apple al mercato di massa, Linux al mercato delle infrastrutture tecnologiche): è così che, secondo me, Linux ha vinto su Microsoft.
Ma vale sempre il discorso legato alle priorità e alle scelte:
Mari ha sviluppato il concetto di autoproduzione:
Questa sedia, che prima o poi acquisterò, è stata progettata per far comprendere come deve essere fatta una sedia e riuscire a saper valutare le sedie. Viene venduta smontata con tutto per potersela assemblare da soli.
La si trova per circa 260€… chi è disposto ad acquistarla?