Le AI, l'inconoscibilità ed il Futuro - Conferenza a Bologna, Facoltà di Matematica #1258

Summary

The speaker discusses the impact of artificial intelligence technologies on the economic fabric of reality, emphasizing that AI will not replace professions but rather the redundancy within them. AI increases productivity by reducing the need for junior professionals, who are currently the trial and error phase of the workforce. The speaker also highlights the challenges of learning from AI, the consumerization of AI, and the biases it introduces. Furthermore, they touch upon the monopolization of AI capabilities by a few companies and the inevitable risks and errors associated with AI adoption, advocating for a risk-based approach to AI ethics and decision-making.

Takeaways

• 😌 The speaker emphasizes the growing impact of AI technologies on various aspects of reality, particularly in the economic and factual realms.
• 🧑‍💼 AI is not replacing professions, but rather the redundancy within professions. Specific competencies of a few individuals will remain crucial.
• 🔄 AI can perform tasks previously done by multiple junior employees, leading to significant productivity increases.
• 📉 Some companies have already reduced their junior staff because AI performs many of their tasks more efficiently.
• 🤔 There is a significant issue with learning and error correction in the absence of traditional junior roles, which are critical for learning through mistakes.
• ⚠️ AI systems are often used in production due to their efficiency, but they can introduce biases, as demonstrated by examples like GPT's flawed CV screening.
• 🏢 The rise of AI enables the creation of highly efficient, potentially one-person companies, leveraging advanced AI systems.
• 📝 There's a challenge in aligning AI with ethical and moral values, which requires human intervention and oversight.
• 🚧 The AI Act takes a risk-based approach to regulating AI applications, but it doesn't fully account for the inherent risks of the systems themselves.
• 📚 The speaker recommends reading materials like 'Weapons of Math Destruction' and works by Floridi to understand the dangers and ethical considerations of AI.

Q & A

What is the main impact of artificial intelligence technologies on the current economic reality?

The main impact of artificial intelligence technologies is not the replacement of professions but the reduction of redundancy within them. It's about the specific competence of a limited number of people being replaced by more efficient processes.

How does the speaker describe the role of junior professionals in the context of AI?

The speaker describes junior professionals as those who make attempts and proofs, essentially being part of a parallel process to reality, where their work is evaluated in parallel, and the best outcomes are chosen, similar to how AI processes work.

What is the speaker's view on the productivity increase due to AI?

The speaker believes that productivity in various fields increases exponentially due to AI because one person can now do the work of many, as seen in their clients who have dismissed many junior staff members because it's no longer necessary.

What are the three problems the speaker identifies with AI?

The three problems identified are: 1) Conceptual learning issues where people learn only through mistakes, 2) Consumerization of AI leading to reliance on it for tasks like CV screening which introduces biases, and 3) The monopoly of AI capabilities by a very limited number of companies.

What does the speaker suggest about the learning process in the professional world?

The speaker suggests that the learning process, especially in the 'junior' phase, is about trial and error, similar to how AI learns, but there is currently no way to learn beyond this phase without the opportunity to understand what is happening and what is going wrong.

What is the issue with AI in terms of bias as mentioned in the script?

The issue with AI in terms of bias is that it can inadvertently introduce significant biases, as seen in the example of AI being used for CV screening, which is not programmed to be fair and can lead to unfair hiring practices.

What is the speaker's opinion on the monopoly of AI capabilities by a few companies?

The speaker believes that while AI empowers anyone to build large entrepreneurial realities from scratch, it does so by giving a monopoly of empowerment to a very limited number of companies, which can influence both the positive and negative aspects of entrepreneurship.

What is the significance of the paper 'is inevitable' mentioned by the speaker?

The paper 'is inevitable' is significant because it provides a formal proof that hallucinations are inevitable with AI, similar to the incompleteness theorem by Gödel, implying that there will always be elements outside of any given set of rules or data.

What does the speaker mean by 'allucinazioni' in the context of AI?

By 'allucinazioni', the speaker is referring to the inevitable errors or hallucinations that AI systems will produce, which are errors in understanding or processing information that do not align with reality.

What is the speaker's view on the adoption of technology and its risks?

The speaker believes that once a technology is invented, it is impossible to prevent its adoption. The challenge lies in accepting the risks and understanding that there will be errors or 'deaths' in the process, much like the adoption of any new technology.

What is the importance of the AI Act mentioned by the speaker?

The AI Act is important because it is a risk-based approach to regulate AI applications, focusing on the risks associated with their use. However, the speaker criticizes it for not calculating the endemic risk of the system, which is crucial for understanding the true impact of AI applications.

Outlines

00:00

🤖 Impact of AI on Professions and Economy

The speaker discusses the significant impact of artificial intelligence (AI) technologies on the economy and the fabric of reality. They emphasize that professions themselves are not replaced by AI, but rather the redundancy within professions is what gets diminished. The specific competencies of a small group of people are what's being replaced, as AI can perform tasks that were previously done by many. This leads to an increase in productivity across various fields, as one person can now do the work of many. The speaker also touches on the challenges of learning and adapting to these changes, as well as the potential for AI to make mistakes and the importance of understanding what's going wrong.

05:01

🚀 AI Consumerization and Entrepreneurship

This paragraph delves into the consumerization of AI and the implications it has for entrepreneurship. The speaker mentions the potential for AI to enable anyone to build large-scale entrepreneurial realities from scratch, referencing a video with Sam Altman discussing the rise of 'One Man companies'. They also discuss the monopolization of AI capabilities by a select few enterprises and the challenges this presents. Additionally, the speaker talks about the inevitability of hallucinations and errors in AI systems, highlighting the importance of aligning AI with human values and ethics, and the challenges of regulating and managing the risks associated with AI applications.

10:01

🛡️ Risk Management and AI Regulation

The speaker addresses the risk-based approach of AI regulation, emphasizing that the risk is tied to the application of AI systems. They argue that until the endemic risk of a system is calculated, other risks are of secondary importance. The speaker also discusses the importance of understanding the risks associated with machine decision-making and encourages the audience, especially the younger generation, to be proactive and informed about these issues. They reference the book 'Weapons of Math Destruction' and the concept of 'super persuasion' as examples of the potential dangers of AI when applied incorrectly.

Keywords

💡Artificial Intelligence

Artificial Intelligence (AI) refers to the simulation of human intelligence in machines that are programmed to think like humans and mimic their actions. In the video's context, AI is discussed as a transformative technology that will have a significant impact on the economic fabric of reality. The script mentions how AI could replace redundancy in professions rather than the professions themselves, indicating a shift towards efficiency and the potential for AI to handle tasks that were traditionally done by a larger team of people.

💡Redundancy

In the script, 'redundancy' is used to describe the unnecessary repetition of tasks or roles within a profession that can be streamlined or eliminated through the use of AI. The speaker suggests that AI will not replace entire professions but will instead reduce the need for multiple individuals performing the same specific tasks, thereby increasing productivity and efficiency.

💡Productivity

Productivity in this video refers to the efficiency and output of work. The script discusses how AI can exponentially increase productivity across various fields because one person, with the aid of AI, can accomplish the work that would typically require several individuals. This is exemplified by the speaker mentioning clients who have dismissed a significant number of junior employees because their work can be managed more efficiently with AI.

💡Junior Professionals

The term 'Junior Professionals' is used to describe entry-level employees or those with less experience in their field. In the script, these individuals are depicted as being involved in trial and error processes, making attempts and conducting proofs as part of their learning and development. The implication is that as AI takes over more routine tasks, the role and development of junior professionals may be significantly impacted.

💡Consumerization of AI

Consumerization of AI refers to the trend where AI technologies, once only available to businesses and developers, are becoming accessible and usable by everyday consumers. The script warns that while AI can function well in many cases, it may not always be the best solution due to potential biases and errors, highlighting the need for careful consideration of AI's role in various applications.

💡Bias

Bias in AI refers to the systematic errors or unfairness that can occur when an AI system makes decisions based on flawed or unrepresentative data. The script mentions that AI systems like GPT can have 'enormous biases,' which can lead to issues such as unfair hiring practices if used for screening CVs without proper oversight.

💡Stagist

A 'stagist' or 'intern' is someone who works for a company on a temporary basis, often for training or educational purposes. The script discusses the role of stagists within companies and how the maximum deployment of interns may not be due to an abundance of work, but rather a lack of understanding from managers about what they want and how to communicate it effectively.

💡One Man Company

The term 'One Man Company' in the script refers to a business that is run by a single individual, often leveraging technology to perform multiple roles. The speaker mentions a bet among founders about which company will be the first to reach a valuation of one billion dollars with a single individual at its core, indicating the potential for AI and automation to enable solo entrepreneurs to achieve significant success.

💡Instruct GPT

Instruct GPT is a concept mentioned in the script that refers to a type of AI model that has been trained to follow instructions provided by humans. This is part of an ongoing effort to create AI systems that align with human values and ethics. The script discusses the importance of aligning AI with ethical considerations, which is a significant theme in discussions about the future of AI development.

💡Risk-Based Approach

A risk-based approach in the context of AI refers to the method of assessing and managing risks associated with the application of AI technologies. The script mentions the AI Act, which is a regulatory framework that takes a risk-based approach to ensure the safety and accountability of AI systems. The emphasis is on understanding and managing the inherent risks of AI applications to prevent harm.

💡Super Persuasion

Super Persuasion is a concept discussed in the script that refers to the ability of AI systems, like GPT, to influence human behavior and decision-making. The speaker warns of the potential dangers of AI when used to manipulate or persuade on a large scale, comparing it to the power of a weapon, and highlights the importance of understanding and regulating this capability.

Highlights

Artificial intelligence technologies will have a significant impact on economic reality and the fabric of actual reality.

Professions won't be replaced by AI, but the redundancy within professions will be reduced.

Specific competencies of a limited number of people will be substituted, not the entire profession.

There will always be a small number of people responsible for the correctness of truth.

The number of people under the responsibility of a single person will decrease due to AI efficiency.

AI can perform tasks in parallel, increasing productivity exponentially.

AI is used in production, with a study showing its use in initial CV screening by GPT.

GPT has significant biases and is not programmed for fairness.

Learning occurs through trial and error, which is a challenge in the era of AI.

There's a lack of a systematic way to learn from mistakes in the context of AI.

AI consumerization is a problem as it functions well in most cases but not perfectly.

The speaker teaches safety of AI and super intelligence, emphasizing the importance of learning from mistakes.

There's an inevitable aspect of hallucinations and errors in AI, which is a significant concern.

The speaker discusses the challenges of regulating AI applications and the risks involved.

AI empowers individuals but also concentrates the monopoly of empowerment in a few companies.

Open-source models are mentioned as a potential solution but are limited by financial constraints.

The speaker references a paper called 'is inevitable' discussing the inevitability of AI hallucinations.

AI systems are trained to align with human ethical and moral values through a series of question-and-answer validations.

The concept of 'instruct GPT' is introduced, which is designed to create AI systems that align with human values.

AI adoption is compared to technological inventions that cannot be avoided once created.

The importance of understanding and accepting the risks of AI is emphasized.

The speaker calls for a deeper understanding of the risks associated with machine decision-making.

The transcript ends with a call to action for younger generations to critically engage with AI technologies.

Transcripts

Allora comode menzogne o scomode

verità scomode verità vero siamo tutti

d'accordo sulle scomode verità salato

magari arriva il dolce Allora io credo

che una minima minima parte delle

persone stiano capendo l'impatto che le

tecnologie di intelligenza artificiale

avrà all'Inter all'interno della realtà

del tessuto della realtà economico

fattuale eccetera Attenzione Non sto

dicendo che le professioni verranno

sostituite dall'intelligenza artificiale

le professioni non vengono sostituite

quello che viene sostituita è la

ridondanza nelle professioni i team cioè

la competenza specifica di un ristretto

numero di persone che sono in grado di

porre in atto l'azione che noi stiamo

facendo l'azione può essere il fare

l'illustrazione del cavolo per la

pizzeria di Novate Milanese e il fare un

bilancio l'analizzare determinati tipi

di documenti per ottenere una risposta

cioè quella azione ci sarà sempre un

depositario o un ristretto numero di

depositari di correttezza della verità

correttezza della verità significa

quello che si accorge se qualcosa è

sbagliato o meno quello che cambia è la

quantità di persone che saranno sotto a

quella persona che per adesso è dato da

uno stuolo più o meno indefinito di

professionalità chiamiamole Junior Ok

Ora non è di per sé un male

la produttività dei vari campi aumenta

esponenzialmente Perché Perché una

persona riesce a fare il lavoro di 1 2 5

10 persone abbiamo già clienti nostri

che hanno dismesso una ventina di

persone Junior perché non ne hanno

bisogno le persone Junior sono quelle

che ti fanno delle dei tentativi delle

prove sono in realtà la la la macchina

il processo in parallelo della realtà Ok

la b in parallelo della realtà per chi

di voi fa programmazione Cioè faccio 10

cose in parallelo vedo quella che mi

piace di più e via quello erano 10

persone che c' hanno lavorato scelgo la

migliore eccetera in questo momento la

fa un intelligenza artificiale c'è un

problema ce ne sono due in realtà e

tre no a seconda dei vari ambiti del

sapere e che che tra l'altro tra

parentesi è è che è quello che insegno

io insegno sicurezza delle ai e delle

super intelligenze Safety sicurezza come

Safety non sicurezza come Secur

Dannazione all italiano dicevo sono tre

problemi il

primo concettuale di come impariamo il

mio socio che è un industriale Massimo e

che non ha niente a che vedere con la

matematica l'informatica eccetera faceva

bulloni ti dice che impariamo solo in

due modi a calci in culo e a facciate

Cioè a qualcuno che ci dice no non è

così che si fa Dannazione Ma come che

cazzo ti è venuto in mente di farla così

no si fa così più volte reiterato e

affacciate provo a fare una roba che non

funziona non funziona e ritorno a queste

due cose avvengono in quella parte del

percorso che noi chiamiamo l'essere

Junior l'apprendistato tutto quello che

volete ok che oltre a essere un modo del

capitalismo per espletare le persone è

anche un modo per imparare la

professione non abbiamo un modo in

questo momento per insegnare che non

passi da quello cioè è molto bello

pensare ammesso che il mercato possa

assorbire 1000 Art Directory invece che

10 che ci sono adesso al massimo livello

con sotto un team ammesso che ma ci

arriviamo non abbiamo un modo per

imparare come fai a imparare quando

qualcosa sbaglia o meno se non ti danno

l'opportunità di capire cosa sta

succedendo e cosa sta

sbagliando che è un problema è un

problema talmente alto che normalmente

Il dispiego il il massimo dispiego di

stagisti all'interno di un'azienda

consolidata di una multinazionale non è

dato dal fatto che c'è un sacco di

lavoro è dato che le dal fatto che il

loro manager è un cane normalmente nello

spiegare cosa vuole perché si basa sulla

prassi sa cosa sa come vuole il prodotto

finale ma non qual è e e noi funzioniamo

così tutte le professioni funzionano più

o meno così e quello è uno dei problemi

il secondo dei problemi enormi è che le

intelligenze artificiali sono

consumerization p eii e pensare di aver

fatto intelligenza artificiale e così e

il problema è che funziona cioè nel 90%

dei casi funziona meglio di un essere

umano non Perché l'essere umano è più

stupido ma perché la persona ci mette

più tempo nel pensare cosa chiedere a

GPT che non a spiegarlo allo stagista e

quella cosa funziona talmente bene che

attualmente viene utilizzato in

produzione c'è un

bellissimo papery Ciao c'è una

bellissima ricerca di Bloomberg che fa

vedere come tutta una serie di

scremature iniziali di CV è fatto da GPT

solo che GPT è un cane nello scremare i

CV ed ha una serie di bias

enormi enormi è chiaro nessuno cioè GPT

è un pappagallo stocastico Ok scrive

delle cose in maniera stocastica non è

programmato per essere Fair e la terza

delle parti Dipende quanto ce l'avete

col capitalismo in genere a Bologna

tanto Eh non lo so C io faccio

l'imprenditore sono l'ultimo che deve

parlare di ste cose

però è vero che c'è un'abilitazione di

chiunque nel costruire qualunque tipo di

grande realtà imprenditoriale da zero

c'è una un un video con Sama con Sam

Altman che dice che stanno Scommettendo

nella loro chat di founder americani su

quale sarà la prima società la prima One

billion One Man company E se succederà

quest'anno O l'anno prossimo perché

ovvio io riesco a utilizzare cose tipo

Devon cioè sistemi esperti sistemi

multiagente che come le persone serie

usano GPT adesso non lo usano facendogli

le chiamate creano una serie di decine

di di agenti uno dietro l'altro che si

autoconf fronan come lo fanno i bambini

grandi che usano gli llm lo fanno così E

lì dentro è vero che abilitiamo chiunque

ma abilitiamo chiunque dando in di base

il monopolio dell'abilitazione a questa

cosa ha un ristrettissimo numero di

aziende che fanno il bello e il cattivo

tempo anche sull'imprenditoria a Valle i

signori dell llm i signori dellai fanno

il bello e il cattivo tempo Sì ci sono i

modelli Open Source va bene ma i modelli

Open Source li ritrai solo se hai un

botto di soldi per poterlo fare in

questo momento sono pochi che lo fanno

Come si risolve non è così facile per

chi di voi per per per chi sta studiando

ancora e ha un po' di di di cose

divertenti è uscito a gennaio 22 gennaio

di quest'anno un bellissimo Paper che si

chiama

is inevitable ed è di xu Jin e canalli

che sono della School of Singapore che è

carino perché è

l'equivalente del teorema di

incompletezza di gel la dimostrazione

formale del fatto che dato qualunque

insieme esiste esiste almeno un elemento

al di fuori di questo lo so ogni volta

che la spiego così muore un matematico e

un gattino il gattino solo perché se

muore il matematico non gliene frega

niente a nessuno il gattino serve per

farvi

pena però le equivalente che ti dice che

le allucinazioni sonoo inevitabili

pensate a cosa vuol dire il fatto che le

allucinazioni sono con anche solo le Y

Act che è appena stato varato e che ti

dice che i produttori di sistemi devono

fare in modo che non producano

informazioni false cioè c'è una

dimostrazione matematica e e

Sfortunatamente tra tra norma e

matematica vince ancora la matematica è

un po' come la norma che ti chiedeva di

volare sbattendo le chiappe non funziona

o o o l'asso cos'è che era il governo

Alabama che doa fissare a 3,2 P Gre per

per Norma perché era più facile non

funziona nemmeno quello dicevo pensate a

cosa vuol dire questa cosa sappiamo che

non è possibile farlo come lo stiamo

facendo in genere con un secondo quella

parte del training delle i mi Taccio che

pochi di voi Probabilmente conoscono

perché avete giocato tanto con la prima

parte cioè creare dei modelli di

qualunque tipo

normalmente creare se usate llm usate

Attention tutti i sistemi basati

sull'attenzione ma a Valle di quello c'è

una casa una parte molto più divertente

Secondo me ma solo perché la insegno

cioè cioè nel senso sono di parte ho un

bias di default che è l'allineamento non

so se avete giocato con gli

l'allineamento è carino perché è quel

sistema che tende a creare che vuole

creare un sistema di intelligenza

artificiale che si allinei coi valori

etici e morali dell'umanità Come viene

fatto con una serie di domande risposte

vagliate da esseri umani uno dietro

l'altro eh se volete andare a vedere

come si fa uno dei Paper più belli ell

che sono usciti è quello che crea

instruct GPT che è quello che voi Vedete

cioè quelli che voi Vedete sono i

modelli instruct quando ci fate chat non

è il modello GPT e basta ed è molto

interessante Perché parlava prima il

prof di super intelligenze di dominio no

pensate a dover scrivere le regole di

una intelligenza che vi batte da un

punto di vista di quoziente intellettivo

è un po' come i miei ragazzi dico un po'

come il cane che insegna al padrone e in

Questo esempio noi non siamo il

padrone Quello è il modo su cui giocare

però dobbiamo fare una cosa che il

regolatore non è ancora disposto ad

accettare che ci saranno morti nel senso

ci saranno errori se è matematicamente

impossibile che non ci siano

allucinazioni ed errori e se è

matematicamente impossibile che noi non

adottiamo queste tecnologie Perché

l'unica cosa che abbiamo visto del

dell'adozione di tecnologia è che è una

una tecnologia una volta che viene

inventata non esiste modo per evitarne

la l'adozione Beh de che due e l'una o

Accettiamo il rischio o meno e chiudendo

così almeno poi andiamo avanti

attenzione a come a come l'ai Act

classifica il rischio sono andato su una

serie di volte a raccontarlo però laai

Act è un Risk Based approach Ma dove il

rischio è legato all'applicazione Ok il

rischio di

applicazione che Attenzione è uno

scroscio di bestemmie

perché io posso normale normare Finché

voglio l'applicazione e dire questo si

può fare questo no questo devo fare

un'attenzione eccetera ma finché io non

calcolo il rischio endemico del sistema

allora sì che è un problema perché

ancora una volta come io Commercio

commercializzato a chi lo do o non lo do

Chi è in grado di prescriverlo meno a

quali A quale tipo di persone ad esempio

le donne incinta non posso

somministrarlo

ma ha un 20% di di di adverse Effect che

uccidono il paziente Ok finché non

calcoliamo il rischio endemico tutti gli

altri rischi sono un di cui

assolutamente interessante ma quasi

tangente alla realtà la parte su cui mi

piacerebbe che voi sbatt la testa quella

è la parte su cui mi piacerebbe che chi

ha meno di 20 anni Chi ha meno di 30

anni si incazz asse come una vipera

perché le cose che dovete vedere sono il

rischio di decisioni prese dalle

macchine ma lì spero che tutti voi avete

letto Oil con weapon of Math Destruction

se non lo avete letto vergogna andate a

comprarvi Weapons of Math Destruction

Spero che molti di voi abbiano letto

floridi con High persuasion che è

l'ultimo Paper che ha pubblicato sulle

super

persuasioni che è la stessa cosa che fa

paura a a Sama e spero che tanti di voi

abbiano giocato con GPT abbastanza per

sapere e per comprendere che applicato

in modalità Cino Fallica diventa più

pericoloso di una pistola

[Musica]

[Applauso]

importante che ci ha fornito