Attenzione: New York combatte la ‘sorveglianza dei prezzi’ con l’aiuto dell’AI

La città di New York ha compiuto un passo significativo verso la regolamentazione dell’intelligenza artificiale (AI) nel settore del commercio, diventando il primo stato a legiferare contro la pratica dei prezzi personalizzati. Questa mossa, inserita nel bilancio statale, impone ai rivenditori di informare i consumatori quando utilizzano algoritmi basati sull’AI e sui dati personali per determinare i prezzi.

## La genesi della legge e le sue implicazioni

La legge nasce dalla crescente preoccupazione che i rivenditori possano sfruttare i dati dei clienti per fissare prezzi più alti, ad esempio aumentando il costo di una stanza d’albergo per chi ha già speso molto per i biglietti aerei. La norma prevede che i rivenditori che utilizzano prezzi personalizzati debbano esporre un avviso che recita: “QUESTO PREZZO È STATO STABILITO DA UN ALGORITMO UTILIZZANDO I TUOI DATI PERSONALI”.

Le reazioni alla legge sono state contrastanti. Le associazioni di categoria ritengono che sia troppo ampia e genererà confusione, mentre i gruppi per i diritti dei consumatori la considerano troppo limitata. Tuttavia, c’è un ampio consenso sull’importanza della legge nel regolamentare l’uso dei dati dei clienti da parte delle aziende.
## Il parere degli esperti e le sfide future

Lina Khan, ex presidente della Federal Trade Commission (FTC), ha definito la misura uno strumento “assolutamente vitale” per le autorità che si occupano di prezzi personalizzati. Ha aggiunto, però, che la pratica sta minacciando di “diffondersi completamente nell’economia” e che c’è “molto altro lavoro da fare” a livello statale e federale per governarla. La FTC, sotto la guida di Khan, aveva definito queste pratiche come “surveillance pricing” e, in un rapporto all’inizio dell’anno, aveva segnalato un numero crescente di esempi di rivenditori che utilizzano il comportamento dei clienti per determinare i prezzi, in alcuni casi senza una chiara informativa.

La pratica ha riacceso un vecchio dibattito: quanto possono spingersi le aziende nel far pagare ai clienti prezzi diversi per lo stesso prodotto o servizio? Mentre sconti per studenti e anziani sono esempi familiari di consumatori che pagano prezzi diversi per gli stessi beni, basati su caratteristiche generali, la personalizzazione dei prezzi va oltre, esaminando le informazioni uniche di un consumatore.

John M. Yun, professore associato di diritto presso la George Mason University Antonin Scalia Law School, ha spiegato che si tratta di una forma di discriminazione di prezzo, in cui i prezzi sono adattati a un gruppo o anche a un individuo in base alle loro caratteristiche, come la posizione geografica, lo status di studente o di anziano.

## Un precedente storico: la discriminazione dei prezzi online

Questa non è la prima volta che si discute di prezzi differenziati nel mondo digitale. In passato, si è scoperto che alcuni siti web applicavano prezzi diversi a seconda del browser utilizzato dall’utente, ad esempio, chi utilizzava Safari (considerato un browser di fascia alta) poteva trovarsi a pagare di più. Questa pratica, come sottolineato in “Capitalismo Immateriale”, è una forma di discriminazione dei prezzi che esiste da tempo.

## Verso un futuro di trasparenza e controllo

La legge di New York rappresenta un primo passo importante verso la regolamentazione dell’uso dell’AI nella determinazione dei prezzi. Tuttavia, è chiaro che c’è ancora molto lavoro da fare per garantire che i consumatori siano protetti dallo sfruttamento dei loro dati personali. La sfida sarà trovare un equilibrio tra la necessità di proteggere i consumatori e la volontà di non soffocare l’innovazione nel settore del commercio.
*

Amici, riflettiamo un attimo. L’automazione, in questo caso, si manifesta attraverso algoritmi che analizzano i nostri dati per stabilire il prezzo “giusto” per noi. Una nozione base di automazione ci dice che essa mira a rendere più efficienti i processi, ma qui vediamo come questa efficienza possa essere usata in modo non trasparente.
Un concetto più avanzato ci porta a considerare l’etica degli algoritmi. Chi decide quali dati sono rilevanti per determinare il prezzo? Come possiamo assicurarci che questi algoritmi non perpetuino discriminazioni esistenti? La legge di New York è un tentativo di portare un po’ di luce in questo labirinto, ma la strada è ancora lunga. Forse dovremmo chiederci: siamo disposti a cedere la nostra privacy in cambio di una presunta personalizzazione, o preferiamo un mercato più trasparente, anche se meno “su misura”?