Dentro gli algoritmi che regolano il nostro tempo - Donata Columbro

Summary

The transcript is an interview with Donata Columbro, a journalist specializing in data and technology with an intersectional approach. She discusses the impact of technology on society, particularly how algorithms used by social media platforms can influence user experiences and potentially exacerbate discrimination and inequalities. Columbro explains that algorithms are sets of instructions designed to achieve a desired outcome, but their effectiveness depends on how well they are written. She also touches on the evolution of social media algorithms, which learn from user behavior and interactions to tailor content. The conversation delves into the role of algorithms in shaping political discourse and the importance of being aware of their influence on our lives. Columbro emphasizes the need for transparency and understanding of algorithms to counteract their potential negative effects, such as discrimination, and to ensure fair representation and decision-making.

Takeaways

• 📰 Donata Columbro is a journalist focusing on data and technology's impact on society, aiming to uncover inequalities or human rights violations through data analysis.
• 🔍 She emphasizes the importance of an intersectional approach to understand how technology can influence societal structures and individual lives.
• 📈 Algorithms are a set of instructions or procedures to achieve a desired outcome, and when well-designed, they are the most efficient way to reach a certain result.
• 🤖 Social media algorithms are not singular; they are diverse and work together, including learning algorithms that adapt based on human interaction and behavior.
• 📉 Interactions on social platforms, such as likes and comments, are scored and used by algorithms to determine the content users see, potentially leading to content polarization.
• 🛍️ The business objectives of platforms influence how algorithms function, with a current focus on keeping users engaged on the platform, even with divisive content.
• 📉 The design of recommendation algorithms aims to manage the vast amount of content by selecting what appears on users' timelines based on certain rules.
• 🌐 Different platforms, like Reddit, use user interaction rather than algorithms to determine the order of content, offering a more community-driven approach.
• 📝 Data privacy is a significant concern, with regulations like GDPR in Europe providing some protection against the misuse of personal data by platforms.
• 🏛️ Algorithms are not neutral; they reflect the biases and prejudices present in the data they are trained on, which can lead to discrimination against certain groups.
• 🤖 The increasing complexity of technology and software can exacerbate existing biases if not carefully managed and made aware of these potential issues.
• 🌟 Raising awareness about how algorithms work and their impact on our lives is crucial for resisting manipulation and advocating for transparency and fairness.

Q & A

What is the role of Donata Columbro as a journalist?

Donata Columbro is a journalist who focuses on data and technology, particularly examining the impact of technology on society and people's lives. She looks at how the tools we use or are presented with can affect discrimination and inequalities.

What is the definition of an algorithm according to the transcript?

An algorithm is defined as a set of instructions or procedures to achieve an expected result. If well-written, it is the best way to reach a certain outcome, similar to a recipe for baking a cake.

How do social media algorithms work?

Social media algorithms decide the ranking and aggregation of content that users see. They are different types of algorithms, including learning algorithms that adapt based on user interactions with content.

What is the impact of user behavior on social media algorithms?

User behavior, such as likes, comments, and other interactions with content, can significantly vary, causing the data produced to be diverse. Algorithms learn to recognize variables, patterns, and similar elements from this behavior to adjust the content they recommend to users.

How do social media platforms aim to keep users engaged?

Social media platforms aim to keep users engaged by showing content designed to maintain their interest, even if it's through negative emotions. The goal is to keep users on the platform for as long as possible.

What is the importance of data in shaping the content we see on social media?

Every interaction with social media platforms becomes data that influences the content we see. This includes likes, comments, and shares, which are assigned scores that algorithms use to decide how much of a particular content to show us.

How does GDPR impact the use of personal data in Europe?

GDPR (General Data Protection Regulation) provides a level of protection against the misuse of personal data by social media platforms. It regulates how personal data is collected, processed, and used, especially for commercial purposes.

What role does image recognition technology play in social media?

Image recognition technology allows computers to identify objects within images, which can be used to provide descriptions for visually impaired users. It also helps train machine learning models, contributing to the development of technologies like text-to-image and image-to-text systems.

How can biases in algorithms affect society?

Biases in algorithms can perpetuate societal prejudices and stereotypes, leading to discrimination against certain groups. This can occur if the data used to train the algorithms is not representative or if the categories used are not inclusive.

What is the relationship between algorithms and politics?

The relationship between algorithms and politics can influence the type of content people see, potentially polarizing viewpoints and affecting how political messages are communicated. Algorithms may prioritize more aggressive or polarizing content, which can change the tone and priorities of political discourse.

How can people resist or influence algorithmic decisions?

People can resist algorithmic decisions by being aware of how they work and understanding how their actions can influence the content they see. This includes engaging with a variety of content and being critical of the recommendations provided by algorithms.

What is the importance of transparency in algorithms?

Transparency in algorithms is crucial for understanding how they make decisions and how they might discriminate or privilege certain types of content or users. It allows for the identification of biases and the promotion of fairness in how algorithms are designed and used.

Outlines

00:00

📰 Introduction to the Journalist's Space

The speaker, Adil, introduces himself as a journalist who uses a virtual space to meet people and share stories related to current events and culture. He discusses his background in political science and international relations, his aspirations to work with NGOs and the United Nations on human rights, and his current role in journalism, which involves using data to investigate and reveal inequalities or human rights violations in communities. Adil also mentions his newsletter, named after his first book, which explains data and tackles these themes, and touches on the concept of algorithms, their impact on society, and the importance of understanding their role in shaping our experiences on social media platforms.

05:00

🤖 The Impact of Social Media Algorithms

The paragraph delves into the functioning of social media algorithms, emphasizing how they determine the content we see based on our interactions. It highlights the difference between static algorithms, like a recipe for making a cake, and dynamic ones that learn from our behavior and adapt over time. The speaker discusses how algorithms can inadvertently reinforce biases and discrimination, and how they are designed to keep users engaged on platforms, sometimes at the cost of promoting polarizing content. Elon Musk's tweet about the nature of algorithms on social media is mentioned, illustrating how engagement, even negative, is used to keep users on the platform.

10:02

📈 Data Collection and Personal Privacy

This section addresses the collection of personal data through social media interactions and the implications for privacy. It discusses the role of data protection regulations like GDPR in Europe, which aim to safeguard individual privacy and prevent exploitation by platforms. The speaker also talks about the use of images on social media and how they are used as datasets to train machine learning models in object recognition and other AI technologies. The paragraph further explores the concept of algorithmic neutrality, noting that the selection and categorization of data are inherently human decisions that can introduce biases into the algorithms.

15:04

🏛️ Algorithms, Politics, and Society

The relationship between algorithms and politics is explored, with a focus on how polarized content can amplify extreme positions and affect political discourse. The speaker discusses the potential dangers of relying on algorithms for decision-making and the importance of maintaining human control over critical aspects such as morality and creativity. The concept of 'algorithmic resistance' is introduced, where individuals or groups actively try to manipulate or circumvent algorithmic rules to gain visibility or challenge the system. The paragraph also touches on the varying perspectives on technology in politics, ranging from enthusiasm to caution.

20:05

🕵️‍♀️ Awareness and Action Against Algorithmic Bias

The final paragraph emphasizes the importance of being aware of how algorithms work and their impact on our lives. It suggests that understanding the role of algorithms in shaping our digital experiences can help us recognize instances of discrimination and take action, such as demanding transparency from platforms. The speaker encourages individuals to be conscious of the power algorithms have in determining what content they see and how it can influence their perceptions and opportunities, advocating for a more informed and critical approach to engaging with digital platforms.

Keywords

💡Algorithm

An algorithm is a set of instructions or procedures for achieving a desired outcome. In the context of the video, algorithms are used to determine what content users see on social media platforms. They are crucial in shaping the user experience and can have significant societal impacts, such as influencing perceptions and potentially exacerbating discrimination or inequalities.

💡Social Media

Social media refers to online platforms that enable users to create and share content or participate in social networking. The video discusses how social media algorithms govern the content that users are exposed to, potentially shaping their perceptions and interactions, and how human behaviors can influence these algorithms.

💡Data

Data, in this video, refers to the information collected from users' interactions on social media platforms. It is used by algorithms to learn user preferences and tailor content. The video emphasizes the importance of understanding how data is used, the impact of data collection on privacy, and the ethical considerations surrounding its use.

💡Bias

Bias in the context of the video pertains to the inherent prejudices or stereotypes that can be reflected and amplified by algorithms. The video discusses how algorithms are not neutral and can perpetuate societal biases if not carefully designed and monitored, affecting how content is recommended and who is visible on these platforms.

💡Discrimination

Discrimination refers to unfair treatment or distinction made based on certain characteristics. The video highlights that algorithms can inadvertently contribute to discrimination if they are trained on biased data or if they do not account for societal prejudices, impacting the visibility and representation of different groups.

💡Human Behavior

Human behavior is the way individuals act and react in different situations. In the video, it is discussed how algorithms on social media platforms learn from and adapt to human behaviors, such as liking, commenting, and sharing, to influence what content is shown to users.

💡Machine Learning

Machine learning is a type of artificial intelligence that allows systems to learn and improve from experience without being explicitly programmed. The video touches on how machine learning algorithms on social media platforms can recognize patterns and variables from user interactions to predict and shape content delivery.

💡Content Polarization

Content polarization refers to the tendency of content to become more extreme or one-sided. The video discusses how algorithms may promote polarized content to keep users engaged, potentially leading to more radical viewpoints and less diverse perspectives being shared on social media.

💡Transparency

Transparency in the video refers to the openness and clarity with which social media platforms and algorithms operate. The speaker argues for the importance of transparency in understanding how algorithms make decisions and impact users, which is crucial for addressing discrimination and ensuring fairness.

💡Data Protection

Data protection involves safeguarding personal information from unauthorized access or misuse. The video mentions GDPR (General Data Protection Regulation) as an example of legal frameworks designed to protect personal data, highlighting the importance of data protection in the digital age.

💡Resist Algorithmic Influence

Resisting algorithmic influence refers to the actions taken by individuals to counteract or make decisions independent of algorithmic suggestions. The video discusses how some users engage in behaviors to trick algorithms into promoting their content or to see a broader range of perspectives, emphasizing the desire for autonomy in the face of algorithmic curation.

Highlights

Donata Columbro is a journalist focusing on data and technology, examining the societal impact of technology and its potential to exacerbate discrimination and inequalities.

She studied political science and international relations, initially aiming to work with NGOs and the United Nations on human rights, which she still engages with through her journalistic approach.

Columbro uses data to verify news stories and uncover potential inequalities or human rights violations, particularly within certain communities.

She has a newsletter named after her first book, which explains data and addresses topics such as algorithms, their definitions, and their societal impacts.

An algorithm is defined as a set of instructions or procedures to achieve a desired outcome, which can be applied in various contexts, from recipes to social media content ranking.

Social media algorithms are not singular but a combination of different algorithms that work together to decide the content we see.

Behavior on social networks, such as likes and comments, can significantly influence the type of content an individual is shown, as algorithms learn from user interactions.

Elon Musk's recent tweet highlighted how interacting with content, even negatively, can lead algorithms to continue promoting similar content, as they interpret the interaction as something the user enjoys.

The objectives of social media platforms, driven by business goals, can change how algorithms function, affecting user experiences and the content they are exposed to.

The vast quantity of content available means algorithms must decide which items to display on users' timelines, potentially using chronological order as an initial approach.

Platforms like Reddit represent a different model, where user interaction, rather than an algorithm, determines the prominence of content.

Data collection by platforms is a significant concern, with regulations like GDPR providing some protection for personal data use in Europe.

Algorithms are not inherently neutral; they reflect the biases and prejudices present in the data they are trained on, which can lead to discrimination.

The categorization and labeling in data collection are human decisions that can introduce bias into how algorithms perceive and respond to different groups of people.

The increasing complexity of technology and software can inadvertently amplify existing societal biases if not carefully managed.

Political content online can become more polarized due to algorithmic promotion of extreme views, which can lead to more aggressive discourse and potentially change political priorities.

There is a fascination with technology's efficiency, but there is a risk in delegating too many human decisions to algorithms that may not account for morality or creativity.

The concept of 'algorithmic resistance' is discussed, where individuals actively try to influence or manipulate algorithmic outcomes, highlighting a desire for autonomy.

Awareness of algorithmic functioning and the impact on personal privilege and discrimination is crucial, with transparency being a key demand in addressing these issues.

Transcripts

mi chiamo Adil sono un giornalista e

questa è la mia stanza uno spazio

virtuale Dove incontro persone e

condivido storie legate all'attualità e

al mondo della cultura buon ascolto

Chi è donata Columbro sono una

giornalista mi occupo di dati e

tecnologie con un approccio

intersezionale cioè Cerca di guardare

come la tecnologia in particolar modo ha

un impatto sulla nostra società sulla

vita delle persone guardando al fatto

che questi strumenti che utilizziamo o

che ci vengono proposti come novità del

momento possono avere degli effetti un

impatto sulle discriminazioni o le

disuguaglianze io racconto sempre che ho

studiato scienze politiche relazioni

internazionali perché Sognavo di andare

a lavorare nelle Ong alle Nazioni Unite

quindi Di occuparmi dei diritti umani ma

in realtà me ne occupo ancora oggi

appunto da giornalista e con un

approccio che è quello anche

all'utilizzare i dati per andare a

verificare eventualmente

notizie storie che possono far

intravedere appunto disuguaglianze o

violazioni dei diritti umani su alcune

comunità ho una newsletter che che si

chiama come primo libro che ho scritto

che ti spiego il dato e mi occupo

appunto di questi temi scrivendone o

facendo formazione di cosa parliamo

quando parliamo di algoritmi parliamo di

tante cose Dipende Chi ne sta parlando

nel libro appunto dentro l'algoritmo Noi

abbiamo fatto questa scelta di tanto di

parlarne al singolare come se ce ne

fosse uno unico no che ci governa in

realtà giustamente gli algoritmi possono

essere diversi quando si pensa

all'algoritmo per esempio che governa i

social media si pensa che ce ne sia uno

solo ma ce ne sono tanti che lavorano

insieme una definizione molto semplice

di

algoritmo è quello che li vede come

serie set di istruzioni o di procedure

per arrivare al risultato atteso quello

che ci aspettiamo se sono scritte bene è

il modo migliore per raggiungere un

certo risultato se sono scritti bene

quindi possiamo applicarli dalla ricetta

per fare la torta e se è scritta bene la

torta bene È buona e piace a tutti e

tutte s'è scritto male quindi ci sono

degli errori o dei problemi questa torta

non verrà fuori bene è semplicemente

appunto un insieme di regole io lo

immagino come un diagramma di flusso se

lo devo immaginare disegnato o quando

penso all'algoritmo perché appunto ci

sono una serie di possibilità no che

possono dire amarsi a seconda di

un'azione che viene fatta un dato che è

presente oppure no noi stessi Quando

andiamo a fare la spesa faccio questo

esempio nel libro e decidiamo quale

prodotto acquistare facciamo pesiamo

delle variabili No nella scelta di un

pacco di biscotti piuttosto che un altro

nella nostra testa stiamo creando un

algoritmo semplicemente all'inizio del

libro racconti di quando hai chiesto

alle persone che fanno parte della tua

comunità su Instagram di iscriverti le

prime parole associate al termine

algoritmo una frase ha colpito la mia

attenzione Facebook e social che

scelgono cosa mostrarci Per quanto

riguarda i social social network come

stanno effettivamente le cose Beh

nell'algoritmo dei social network

effettivamente le regole decidono la

classifica dei contenuti che noi

dobbiamo vedere quindi sono algoritmi

che mettono in ordine che aggregano sono

tipi di algoritmi diversi Ovviamente nel

mondo quelli dei social network sono di

diverse tipologie e in particolar modo

sono anche algoritmi di apprendimento

automatico quindi non sono solo la

ricetta è un algoritmo semplice perché

il risultato è quello atteso non può

cambiare i dati gli dobbiamo cambiare

noi ogni volta se vogliamo mettere una

variabile diversa c'è una persona con

una intolleranza e devo sostituire il

latte vaccino con quello vegetale per

esempio c'è sempre un intervento umano

il risultato non cambia non apprende

ogni volta che noi facciamo quella

ricetta in modo diverso quello che

succede negli algoritmi dei social

network è che i comportamenti umani

quindi secondo

piccolino interagiamo con i contenuti il

mi piace il commento in realtà possono

variare tantissimo e quindi questa

variazione dei comportamenti fa sì che i

dati che si producano sono molto diversi

e gli algoritmi però imparano a

riconoscere delle variabili dei pattern

degli elementi simili per fare una

traduzione e dire ok Se questa persona

un esempio molto semplice a me sempre mi

piace a qualcosa che riguarda lo sport

la corsa probabilmente Quindi fa una

specie di correlazione le piacerà tutto

quello che riguarda lo sport alla corsa

l'atletica le scarpe gli atleti le

atlete e i contenuti che privilegio per

lei saranno quelli che riguardano questo

argomento è molto interessante che

questo agire dell'algoritmo in questo

modo sembra che appunto ci faccia

qualcosa per farci piacere no perché ci

dice ok a Donata piace la corsa l'ho

capito da tutte le cose che sta facendo

quindi apprende mano a mano dal mio

comportamento quando sono rimasta

fondotinta avevo smesso di correre

l'algoritmo lo aveva capito Quindi si è

aggiornato ha cambiato le sue regole e

ha iniziato a farmi vedere altri

prodotti però dobbiamo ragionare con la

mente di un computer e Paradossalmente

pensando a Twitter elon musk ha spiegato

circa un mese fa ha fatto Un Tweet in

cui diceva esattamente come funziona

l'algoritmo se ti vede interagire con un

contenuto anche per insultarlo

l'algoritmo secondo la regola che è

stata scritta capisce che tu provi gusto

a farlo che quindi un'attività che ti

piace fare quindi prendertela

arrabbiarti con quel contenuto E quindi

continuerà a proportelo quindi

l'algoritmo dei social in particolar

modo Come si sono sviluppati ultimamente

non sono sempre stati così le regole

cambiano perché cambiano gli obiettivi

cioè quello che Le piattaforme decidono

che sono gli obiettivi di business e

quindi cambiano il funzionamento

dell'algoritmo se il oggi il dato

interessante l'obiettivo è quello di far

tenere le persone sulla piattaforma devo

tenerle incollate anche se non gli piace

il contenuto Questo è un passaggio da

fare Secondo me interessante cioè noi

non siamo online non scrolliamo perché

ci piace ma perché in qualche modo il

contenuto è progettato per mantenerci lì

e questo tweet di elon musk svelava

davvero la modalità di funzionamento di

questo algoritmo cioè della regola che

dice che se tu interagisci in qualche

modo questa cosa funziona per tenerti lì

continuerai a commentare a mettere mi

piace a protestare di nuovo perché in

qualche modo in testa uscire un'emozione

anche negativa non c'è solo

intrattenimento c'è anche molta

polarizzazione del contenuto più che

decidere quello che che dobbiamo vedere

loro devono fare ordine perché la

quantità di contenuti Almeno secondo

cioè questa è la l'idea che è nata per

la progettazione di algoritmi di

raccomandazione è che la quantità di

contenuti è talmente alta significa che

è l'algoritmo in base ad alcune regole

che gli vengono messe che stabilisce

quali sono quelli che devono apparire

sulla tua Timeline se non fosse così ne

avresti talmente tanti da non riuscire a

soffermarti Cioè se tenessimo l'ordine

cronologico Come era all'inizio non

sarebbe più gestibile Ovviamente è una

scelta non è un destino e ineluttabile

perché pensiamo piattaforme come reddit

in cui non è un algoritmo che stabilisce

l'ordine dei contenuti ma l'interazione

degli utenti cioè se l'utente commenta

mette mi piace se è votato sei moderato

non è una macchina ma è l'interazione

dell'umano cioè una differenza in questo

però si è chiara magari anche per chi

non ha mai frequentato reddit è più una

sorta di Forum in cui è proprio gli

utenti stessi che partecipano alla

crescita di quel contenuto mentre nei

social network c'è una previsione ancora

prima che quel contenuto abbia

l'interazione in modo sottile i vari

diventare piattaforme funziona nel modo

diverso anche per raccogliere queste

informazioni dagli utenti per capire

cosa le attira stare in quelle che ho

chiamato rabbid Hall no le donne del

coniglio in cui si entra e non si esce

più Però più o meno questa È

l'intenzione che oggi è una piattaforma

oggi monetizzano il nostro tempo e

quindi diciamo che per semplificare la

regola degli algoritmi e facciamo stare

le persone il più tempo possibile

collegate che cosa raccolgono queste

piattaforme raccolgono i dati che

secondo loro sono interessanti per

raggiungere Questo obiettivo una cosa a

cui tengo particolarmente occupandomi di

dati e avendo appunto anche scritto di

un libro sulla data di Interactive e che

dobbiamo pensare che ogni dato ogni

interazione che noi abbiamo con Le

piattaforme non diventa per forza dato

automaticamente qualcuno lo decide Cioè

che il nostro mi piace il nostro

apprezzamento la nostra Reaction gli

viene assegnato un punteggio e quindi

l'algoritmo anche da quel punteggio può

mostrare di più o di meno quel contenuto

è una decisione ad oggi ci sono tutta

una serie di nostre azioni appunto che

vengono considerate dati quindi il tempo

speso il commento la condivisione e

Alcune hanno più o meno peso più o meno

valore altri dati che vengono analizzati

sono quelli che riguardano il contenuto

in sé per esempio se ci piace un

contenuto se Abbiamo apprezzato un

contenuto che ci ha proposto la

piattaforma di quel contenuto viene

analizzato l'hashtag il titolo le parole

l'audio la musica se c'è scritto

Challenge la tipologia quindi i dati

legati al contenuto acquistano anche in

quel modo lì un valore e se ci piace un

altro contenuto che è la stessa musica

ci verranno proposti Magari altri video

simili di argomenti diversi Ma hanno lo

stesso brano per esempio quindi in

qualche modo l'algoritmo li impara le

nostre abitudini In base a questo tipo

di

quando noi ci scriviamo queste

piattaforme beh lasciamo i nostri dati

personali in Europa abbiamo il gdpr che

è il regolamento di protezione dei dati

personali Per cui noi abbiamo una sorta

di protezione all'uso dei nostri dati

quando sentiamo anche di sfruttamento di

piattaforme che incrociano le

informazioni per avere e le danno anche

esternamente o vengono utilizzate a

livello commerciale Da noi abbiamo una

sorta di protezione aggiuntiva e

aumentato anche quello che è diventato

vietato fare dal punto di vista degli

inserzionisti Per quanto riguarda la

raccolta dati però sanno di noi Appunto

quello che noi raccontiamo anche tutto

il contenuto che noi impostiamo le

nostre foto Tra l'altro moltissime delle

foto che noi usiamo nei social network è

stato raccontato da più volte da più

inchieste Oggi sono il materiale sono i

dataset che fanno imparare alle macchine

a tecnologie come mi giorni stable

Diffusion come

disegnare e come trasformare le parole

in un'immagine perché all'interno dei

social network è stato inserito grazie

alla tecnologia del network language

Processing e quindi anche del dell'image

to text la possibilità di riconoscere

gli oggetti cioè i computer oggi sono

riconoscere gli oggetti presenti in

un'immagine che è una bella tecnologia

se pensiamo a chi usa software di

lettura a schermo e quindi non può

vedere le immagini ma un software di

legge che all'interno di una fotografia

sono presenti tre cani bianchi due gatti

e un bambino in piedi questa tecnologia

immessa all'interno dei social network

fa sì che oggi però quelle immagini e

quindi tutte quelle parole associate a

quegli elementi siano un ottimo set di

dati per allenare invece la tecnologia

Text to image non image to text Quindi

quelle per cui noi scriviamo Disegnami

un cane astronauta su una nuvola rosa e

il software è in grado di disegnarlo

Perché sa dove andare a prendere nuvola

sa dove prendere cane sa dove prendere

astronauta un altro aspetto molto

interessante La millantata neutralità

degli algoritmi assolutamente come

millantata neutralità del dato ogni

volta che pensiamo a tecnologie dati ci

immaginiamo qualcosa di appunto di

neutro perché la matematica ci dà questa

illusione il fatto che i dati la

decisione di osservare qualcosa di

analizzarlo di raccoglierlo è umana

Quindi stiamo in qualche modo noi

includendo all'interno della nostra

lente di osservazione un pezzo di realtà

e lasciamo fuori il resto le

appiccichiamo una categoria un'etichetta

quindi la stiamo nominando in un certo

modo magari mettendo insieme anche cose

diverse tra loro pensiamo a esempi che

possono essere capiti dai bambini

pensiamo alla frutta metto insieme cosa

che decido che è frutta a un certo punto

ci metto pere mele kiwi il pomodoro in

realtà è classificato come frutta ma un

bambino lo metterà tra la struttura sono

decisioni che prendiamo no quando devo

mettere insieme oppure le stesse cose

posso classificarle secondo Altre

caratteristiche il colore allo stesso

modo quando decidiamo di contare

categorizzare delle persone per esempio

attacchiamo un etichetta e quando queste

dataset no con le nostre colonne le

nostre righe sono quelle da cui gli

algoritmi devono prendere informazioni

contenuti per elaborare le regole e

darci il nostro appunto risultato se

dicevamo La ricetta è scritta male o se

contiene dei Bios Quindi se non prende

in considerazione le differenze se non

prende in considerazione i pregiudizi

che esistono nella società avrò un

risultato pieno di pregiudizi un esempio

nel caso degli algoritmi quello in cui

io definisco per esempio la categoria

donna cosa ci metto all'interno di

questa categoria se ci metto solo

persone bianche truccate giovani con un

corpo conforme tutte le altre non

saranno ritenute donne dal computer non

mi piace proprio cioè il computer è

stupido fa quello che noi gli diciamo

Quindi se gli dico che la donna è fatta

così quello che non corrisponde a quello

non è donna viene fuori quindi quando io

vado il motore di ricerca nelle immagini

cerco la parola donna mi verrà fuori

solo quello che io gli ho detto quello

che io gli ho mostrato inizialmente cioè

te nel mio dataset c'erano solo donne

giovani truccate con corpo conforme

anche la rappresentazione che ne farà

l'algoritmo sarà quello non è neutro

Appunto perché questa Questa

discriminazione no anche del

marginalizzare già persone

marginalizzate o invisibili o

invisibilizzate penso le persone

disabili si ripercuote e diventa virale

come dice Giovanni bolian Wii che una

ricercatrice delle mytie che ha molto

studiato appunto Il baias degli

algoritmi avendolo provato sulla sua

pelle visto che aveva sperimentato

questo software di riconoscimento

facciale che non vedeva il suo volto

perché di pelle nera mano mano che la

tecnologia è software aumentano di

complessità Ragazzi ripercuotono queste

differenze queste discriminazioni anche

su questi software ne abbiamo già citati

prima mi giorni sebo il diffusore da lì

sono nati con questi bias e pregiudizi

interni ora stanno cercando di mitigarli

Ma se io scrivo per esempio la parola

infermiere in inglese nurse avrò come

risultato delle figure femminili se non

specifico perché il baias è che a fare

quel tipo di lavoro ci sono o potrebbero

esserci solo donne se scrivo Si io

amministratore amministratrice delegata

ma in inglese non è generizzata come

parola avrò degli uomini Purtroppo se

c'è un pregiudizio uno stereotipo nella

realtà la macchina lo prende e crede che

quella sia l'unica verità accettabile

lui te la ripropone Qual è il rapporto

tra algoritmi e politica il rapporto tra

algoritmo in politica dipende anche un

po' da quello che abbiamo detto prima

sulla polarizzazione dei contenuti una

delle prime cose che mi vengono in mente

perché anche se il tuo contenuto viene

mostrato a un pubblico di persone che

sono anche fuori dalla tua platea

sepolarizzante aumenta la modalità

diciamo radicale di parlare di un certo

argomento perché un conto è dire Credo

che questa politica

di

militarizzazione dell'Europa sia

sbagliata per questo quest'altro motivo

un conto presentare allo stesso

messaggio con un tono più aggressivo e

voi pensate che con tutte queste armi

non faremo la fine de paese X Certo che

con un toro molto più aggressivo Questo

contenuto Avrà molte più possibilità e

di essere visto di essere commentato di

girare quindi i toni cambiano cambiano

anche le priorità perché se è solo il

contenuto polarizzante che diventa

interessante per l'algoritmo a quel

punto non mi occuperò di temi su cui le

persone non hanno delle posizioni

estreme quindi aumentano le posizioni

estremiste soprattutto online poi

effettivamente Sicuramente quando si va

al governo magari queste cambiano ma

quando devo fare propaganda politica

devo alzare i toni altrimenti il mio

contenuto scompare Secondo me la maggior

parte degli schieramenti o comunque

delle idee politiche riguardo la

tecnologia sono sempre quelli di

accoglierle con Grande entusiasmo o

comunque di vedere di non vedere il

pericolo o i rischi ma di vedere la

tecnologia come la soluzione che ci

porta efficienza collegata

all'efficienza tutti vogliono essere

efficienti ed essere sinistra poi ci

sono modi diversi per svilupparla e per

capire qual è la tecnologia migliore ma

questa modalità no nel dire se lo fa

l'algoritmo Lo fa meglio degli esseri

umani è qualcosa che difficilmente

troverà delle persone critiche da una

parte o dall'altra in modo specifico c'è

sempre una fascinazione Ma è lì che si

nasconde un po' il pericolo di delegare

anche un computer qualcosa che è

dell'umano la decisione per esempio

computer ci può aiutare a velocemente a

leggere dei dati questo sicuramente la

velocità o la potenza di calcolo

statistica che computer non ce l'ha il

nostro cervello la decisione invece

quella è tutta umana No la morale o come

la creatività per esempio E a proposito

di resistenza è possibile aggirare

l'algoritmo nel libro abbiamo provato a

mettere anche questa parola la

resistenza algoritmica ci sono tanti

studi tante ricerche che ne parlano

anche mettendo la parola Resistenza

dandogli un significato non per forza

positivo

ma in qualche cosa in cui le persone

vedono la possibilità di agire di fare

qualcosa anche magari illegalmente o

pseudo illegale penso a quello che

racconto nel libro dei gruppi che Pod

vengono così chiamati persone che si

mettono insieme su altri social network

e Si invitano a vicenda a mettere il mi

piace mettere i commenti e sui propri

contenuti Instagram per aggirare appunto

ingannare l'algoritme e dire Guarda che

ci sono tante persone interessate è

qualcosa che Le piattaforme vedono di

cattivo occhio

qualcuno può essere disattivato se si

scopre un'azione di questo tipo questo

esempio ci fa vedere come in qualche

modo noi vogliamo sentirci

indipendenti da quello che un computer

sta decidendo per noi soprattutto quando

non capiamo le sue regole pensiamo che

siano ingiuste nei nostri confronti a

prescindere dalla scala delle

ingiustizia nel libro parliamo di

privilegio che il mio contenuto seppur

ci lavorano quindi magari dipende il mio

lavoro non viene promosso su Instagram

abbastanza a un certo peso nella mia

vita se invece è un algoritmo decide che

io possa o meno avere un sussidio

familiare che mi serve per mandare

avanti la mia famiglia i bambini a

scuola ha un altro peso se Quindi se ci

sono delle variabili no che vengono

immesse in questi algoritmi che in

qualche modo mi penalizzano perché

cittadina straniera o perché vivo in una

certa zona della città la resistenza

Secondo me primaria che possiamo avere è

quella della consapevolezza sul loro

funzionamento e anche appunto capire

dove arrivano al nostro privilegio nel

non essere impattati dall'algoritmo e

dove invece c'è discriminazione e come

fare anche appunto per denunciarla O

almeno chiedere trasparenza Grazie

grazie mille