Le AI, l'inconoscibilità ed il Futuro - Conferenza a Bologna, Facoltà di Matematica #1258
Summary
TLDRThe speaker discusses the impact of artificial intelligence technologies on the economic fabric of reality, emphasizing that AI will not replace professions but rather the redundancy within them. AI increases productivity by reducing the need for junior professionals, who are currently the trial and error phase of the workforce. The speaker also highlights the challenges of learning from AI, the consumerization of AI, and the biases it introduces. Furthermore, they touch upon the monopolization of AI capabilities by a few companies and the inevitable risks and errors associated with AI adoption, advocating for a risk-based approach to AI ethics and decision-making.
Takeaways
- 😌 The speaker emphasizes the growing impact of AI technologies on various aspects of reality, particularly in the economic and factual realms.
- 🧑💼 AI is not replacing professions, but rather the redundancy within professions. Specific competencies of a few individuals will remain crucial.
- 🔄 AI can perform tasks previously done by multiple junior employees, leading to significant productivity increases.
- 📉 Some companies have already reduced their junior staff because AI performs many of their tasks more efficiently.
- 🤔 There is a significant issue with learning and error correction in the absence of traditional junior roles, which are critical for learning through mistakes.
- ⚠️ AI systems are often used in production due to their efficiency, but they can introduce biases, as demonstrated by examples like GPT's flawed CV screening.
- 🏢 The rise of AI enables the creation of highly efficient, potentially one-person companies, leveraging advanced AI systems.
- 📝 There's a challenge in aligning AI with ethical and moral values, which requires human intervention and oversight.
- 🚧 The AI Act takes a risk-based approach to regulating AI applications, but it doesn't fully account for the inherent risks of the systems themselves.
- 📚 The speaker recommends reading materials like 'Weapons of Math Destruction' and works by Floridi to understand the dangers and ethical considerations of AI.
Q & A
What is the main impact of artificial intelligence technologies on the current economic reality?
-The main impact of artificial intelligence technologies is not the replacement of professions but the reduction of redundancy within them. It's about the specific competence of a limited number of people being replaced by more efficient processes.
How does the speaker describe the role of junior professionals in the context of AI?
-The speaker describes junior professionals as those who make attempts and proofs, essentially being part of a parallel process to reality, where their work is evaluated in parallel, and the best outcomes are chosen, similar to how AI processes work.
What is the speaker's view on the productivity increase due to AI?
-The speaker believes that productivity in various fields increases exponentially due to AI because one person can now do the work of many, as seen in their clients who have dismissed many junior staff members because it's no longer necessary.
What are the three problems the speaker identifies with AI?
-The three problems identified are: 1) Conceptual learning issues where people learn only through mistakes, 2) Consumerization of AI leading to reliance on it for tasks like CV screening which introduces biases, and 3) The monopoly of AI capabilities by a very limited number of companies.
What does the speaker suggest about the learning process in the professional world?
-The speaker suggests that the learning process, especially in the 'junior' phase, is about trial and error, similar to how AI learns, but there is currently no way to learn beyond this phase without the opportunity to understand what is happening and what is going wrong.
What is the issue with AI in terms of bias as mentioned in the script?
-The issue with AI in terms of bias is that it can inadvertently introduce significant biases, as seen in the example of AI being used for CV screening, which is not programmed to be fair and can lead to unfair hiring practices.
What is the speaker's opinion on the monopoly of AI capabilities by a few companies?
-The speaker believes that while AI empowers anyone to build large entrepreneurial realities from scratch, it does so by giving a monopoly of empowerment to a very limited number of companies, which can influence both the positive and negative aspects of entrepreneurship.
What is the significance of the paper 'is inevitable' mentioned by the speaker?
-The paper 'is inevitable' is significant because it provides a formal proof that hallucinations are inevitable with AI, similar to the incompleteness theorem by Gödel, implying that there will always be elements outside of any given set of rules or data.
What does the speaker mean by 'allucinazioni' in the context of AI?
-By 'allucinazioni', the speaker is referring to the inevitable errors or hallucinations that AI systems will produce, which are errors in understanding or processing information that do not align with reality.
What is the speaker's view on the adoption of technology and its risks?
-The speaker believes that once a technology is invented, it is impossible to prevent its adoption. The challenge lies in accepting the risks and understanding that there will be errors or 'deaths' in the process, much like the adoption of any new technology.
What is the importance of the AI Act mentioned by the speaker?
-The AI Act is important because it is a risk-based approach to regulate AI applications, focusing on the risks associated with their use. However, the speaker criticizes it for not calculating the endemic risk of the system, which is crucial for understanding the true impact of AI applications.
Outlines
🤖 Impact of AI on Professions and Economy
The speaker discusses the significant impact of artificial intelligence (AI) technologies on the economy and the fabric of reality. They emphasize that professions themselves are not replaced by AI, but rather the redundancy within professions is what gets diminished. The specific competencies of a small group of people are what's being replaced, as AI can perform tasks that were previously done by many. This leads to an increase in productivity across various fields, as one person can now do the work of many. The speaker also touches on the challenges of learning and adapting to these changes, as well as the potential for AI to make mistakes and the importance of understanding what's going wrong.
🚀 AI Consumerization and Entrepreneurship
This paragraph delves into the consumerization of AI and the implications it has for entrepreneurship. The speaker mentions the potential for AI to enable anyone to build large-scale entrepreneurial realities from scratch, referencing a video with Sam Altman discussing the rise of 'One Man companies'. They also discuss the monopolization of AI capabilities by a select few enterprises and the challenges this presents. Additionally, the speaker talks about the inevitability of hallucinations and errors in AI systems, highlighting the importance of aligning AI with human values and ethics, and the challenges of regulating and managing the risks associated with AI applications.
🛡️ Risk Management and AI Regulation
The speaker addresses the risk-based approach of AI regulation, emphasizing that the risk is tied to the application of AI systems. They argue that until the endemic risk of a system is calculated, other risks are of secondary importance. The speaker also discusses the importance of understanding the risks associated with machine decision-making and encourages the audience, especially the younger generation, to be proactive and informed about these issues. They reference the book 'Weapons of Math Destruction' and the concept of 'super persuasion' as examples of the potential dangers of AI when applied incorrectly.
Mindmap
Keywords
💡Artificial Intelligence
💡Redundancy
💡Productivity
💡Junior Professionals
💡Consumerization of AI
💡Bias
💡Stagist
💡One Man Company
💡Instruct GPT
💡Risk-Based Approach
💡Super Persuasion
Highlights
Artificial intelligence technologies will have a significant impact on economic reality and the fabric of actual reality.
Professions won't be replaced by AI, but the redundancy within professions will be reduced.
Specific competencies of a limited number of people will be substituted, not the entire profession.
There will always be a small number of people responsible for the correctness of truth.
The number of people under the responsibility of a single person will decrease due to AI efficiency.
AI can perform tasks in parallel, increasing productivity exponentially.
AI is used in production, with a study showing its use in initial CV screening by GPT.
GPT has significant biases and is not programmed for fairness.
Learning occurs through trial and error, which is a challenge in the era of AI.
There's a lack of a systematic way to learn from mistakes in the context of AI.
AI consumerization is a problem as it functions well in most cases but not perfectly.
The speaker teaches safety of AI and super intelligence, emphasizing the importance of learning from mistakes.
There's an inevitable aspect of hallucinations and errors in AI, which is a significant concern.
The speaker discusses the challenges of regulating AI applications and the risks involved.
AI empowers individuals but also concentrates the monopoly of empowerment in a few companies.
Open-source models are mentioned as a potential solution but are limited by financial constraints.
The speaker references a paper called 'is inevitable' discussing the inevitability of AI hallucinations.
AI systems are trained to align with human ethical and moral values through a series of question-and-answer validations.
The concept of 'instruct GPT' is introduced, which is designed to create AI systems that align with human values.
AI adoption is compared to technological inventions that cannot be avoided once created.
The importance of understanding and accepting the risks of AI is emphasized.
The speaker calls for a deeper understanding of the risks associated with machine decision-making.
The transcript ends with a call to action for younger generations to critically engage with AI technologies.
Transcripts
Allora comode menzogne o scomode
verità scomode verità vero siamo tutti
d'accordo sulle scomode verità salato
magari arriva il dolce Allora io credo
che una minima minima parte delle
persone stiano capendo l'impatto che le
tecnologie di intelligenza artificiale
avrà all'Inter all'interno della realtà
del tessuto della realtà economico
fattuale eccetera Attenzione Non sto
dicendo che le professioni verranno
sostituite dall'intelligenza artificiale
le professioni non vengono sostituite
quello che viene sostituita è la
ridondanza nelle professioni i team cioè
la competenza specifica di un ristretto
numero di persone che sono in grado di
porre in atto l'azione che noi stiamo
facendo l'azione può essere il fare
l'illustrazione del cavolo per la
pizzeria di Novate Milanese e il fare un
bilancio l'analizzare determinati tipi
di documenti per ottenere una risposta
cioè quella azione ci sarà sempre un
depositario o un ristretto numero di
depositari di correttezza della verità
correttezza della verità significa
quello che si accorge se qualcosa è
sbagliato o meno quello che cambia è la
quantità di persone che saranno sotto a
quella persona che per adesso è dato da
uno stuolo più o meno indefinito di
professionalità chiamiamole Junior Ok
Ora non è di per sé un male
la produttività dei vari campi aumenta
esponenzialmente Perché Perché una
persona riesce a fare il lavoro di 1 2 5
10 persone abbiamo già clienti nostri
che hanno dismesso una ventina di
persone Junior perché non ne hanno
bisogno le persone Junior sono quelle
che ti fanno delle dei tentativi delle
prove sono in realtà la la la macchina
il processo in parallelo della realtà Ok
la b in parallelo della realtà per chi
di voi fa programmazione Cioè faccio 10
cose in parallelo vedo quella che mi
piace di più e via quello erano 10
persone che c' hanno lavorato scelgo la
migliore eccetera in questo momento la
fa un intelligenza artificiale c'è un
problema ce ne sono due in realtà e
tre no a seconda dei vari ambiti del
sapere e che che tra l'altro tra
parentesi è è che è quello che insegno
io insegno sicurezza delle ai e delle
super intelligenze Safety sicurezza come
Safety non sicurezza come Secur
Dannazione all italiano dicevo sono tre
problemi il
primo concettuale di come impariamo il
mio socio che è un industriale Massimo e
che non ha niente a che vedere con la
matematica l'informatica eccetera faceva
bulloni ti dice che impariamo solo in
due modi a calci in culo e a facciate
Cioè a qualcuno che ci dice no non è
così che si fa Dannazione Ma come che
cazzo ti è venuto in mente di farla così
no si fa così più volte reiterato e
affacciate provo a fare una roba che non
funziona non funziona e ritorno a queste
due cose avvengono in quella parte del
percorso che noi chiamiamo l'essere
Junior l'apprendistato tutto quello che
volete ok che oltre a essere un modo del
capitalismo per espletare le persone è
anche un modo per imparare la
professione non abbiamo un modo in
questo momento per insegnare che non
passi da quello cioè è molto bello
pensare ammesso che il mercato possa
assorbire 1000 Art Directory invece che
10 che ci sono adesso al massimo livello
con sotto un team ammesso che ma ci
arriviamo non abbiamo un modo per
imparare come fai a imparare quando
qualcosa sbaglia o meno se non ti danno
l'opportunità di capire cosa sta
succedendo e cosa sta
sbagliando che è un problema è un
problema talmente alto che normalmente
Il dispiego il il massimo dispiego di
stagisti all'interno di un'azienda
consolidata di una multinazionale non è
dato dal fatto che c'è un sacco di
lavoro è dato che le dal fatto che il
loro manager è un cane normalmente nello
spiegare cosa vuole perché si basa sulla
prassi sa cosa sa come vuole il prodotto
finale ma non qual è e e noi funzioniamo
così tutte le professioni funzionano più
o meno così e quello è uno dei problemi
il secondo dei problemi enormi è che le
intelligenze artificiali sono
consumerization p eii e pensare di aver
fatto intelligenza artificiale e così e
il problema è che funziona cioè nel 90%
dei casi funziona meglio di un essere
umano non Perché l'essere umano è più
stupido ma perché la persona ci mette
più tempo nel pensare cosa chiedere a
GPT che non a spiegarlo allo stagista e
quella cosa funziona talmente bene che
attualmente viene utilizzato in
produzione c'è un
bellissimo papery Ciao c'è una
bellissima ricerca di Bloomberg che fa
vedere come tutta una serie di
scremature iniziali di CV è fatto da GPT
solo che GPT è un cane nello scremare i
CV ed ha una serie di bias
enormi enormi è chiaro nessuno cioè GPT
è un pappagallo stocastico Ok scrive
delle cose in maniera stocastica non è
programmato per essere Fair e la terza
delle parti Dipende quanto ce l'avete
col capitalismo in genere a Bologna
tanto Eh non lo so C io faccio
l'imprenditore sono l'ultimo che deve
parlare di ste cose
però è vero che c'è un'abilitazione di
chiunque nel costruire qualunque tipo di
grande realtà imprenditoriale da zero
c'è una un un video con Sama con Sam
Altman che dice che stanno Scommettendo
nella loro chat di founder americani su
quale sarà la prima società la prima One
billion One Man company E se succederà
quest'anno O l'anno prossimo perché
ovvio io riesco a utilizzare cose tipo
Devon cioè sistemi esperti sistemi
multiagente che come le persone serie
usano GPT adesso non lo usano facendogli
le chiamate creano una serie di decine
di di agenti uno dietro l'altro che si
autoconf fronan come lo fanno i bambini
grandi che usano gli llm lo fanno così E
lì dentro è vero che abilitiamo chiunque
ma abilitiamo chiunque dando in di base
il monopolio dell'abilitazione a questa
cosa ha un ristrettissimo numero di
aziende che fanno il bello e il cattivo
tempo anche sull'imprenditoria a Valle i
signori dell llm i signori dellai fanno
il bello e il cattivo tempo Sì ci sono i
modelli Open Source va bene ma i modelli
Open Source li ritrai solo se hai un
botto di soldi per poterlo fare in
questo momento sono pochi che lo fanno
Come si risolve non è così facile per
chi di voi per per per chi sta studiando
ancora e ha un po' di di di cose
divertenti è uscito a gennaio 22 gennaio
di quest'anno un bellissimo Paper che si
chiama
is inevitable ed è di xu Jin e canalli
che sono della School of Singapore che è
carino perché è
l'equivalente del teorema di
incompletezza di gel la dimostrazione
formale del fatto che dato qualunque
insieme esiste esiste almeno un elemento
al di fuori di questo lo so ogni volta
che la spiego così muore un matematico e
un gattino il gattino solo perché se
muore il matematico non gliene frega
niente a nessuno il gattino serve per
farvi
pena però le equivalente che ti dice che
le allucinazioni sonoo inevitabili
pensate a cosa vuol dire il fatto che le
allucinazioni sono con anche solo le Y
Act che è appena stato varato e che ti
dice che i produttori di sistemi devono
fare in modo che non producano
informazioni false cioè c'è una
dimostrazione matematica e e
Sfortunatamente tra tra norma e
matematica vince ancora la matematica è
un po' come la norma che ti chiedeva di
volare sbattendo le chiappe non funziona
o o o l'asso cos'è che era il governo
Alabama che doa fissare a 3,2 P Gre per
per Norma perché era più facile non
funziona nemmeno quello dicevo pensate a
cosa vuol dire questa cosa sappiamo che
non è possibile farlo come lo stiamo
facendo in genere con un secondo quella
parte del training delle i mi Taccio che
pochi di voi Probabilmente conoscono
perché avete giocato tanto con la prima
parte cioè creare dei modelli di
qualunque tipo
normalmente creare se usate llm usate
Attention tutti i sistemi basati
sull'attenzione ma a Valle di quello c'è
una casa una parte molto più divertente
Secondo me ma solo perché la insegno
cioè cioè nel senso sono di parte ho un
bias di default che è l'allineamento non
so se avete giocato con gli
l'allineamento è carino perché è quel
sistema che tende a creare che vuole
creare un sistema di intelligenza
artificiale che si allinei coi valori
etici e morali dell'umanità Come viene
fatto con una serie di domande risposte
vagliate da esseri umani uno dietro
l'altro eh se volete andare a vedere
come si fa uno dei Paper più belli ell
che sono usciti è quello che crea
instruct GPT che è quello che voi Vedete
cioè quelli che voi Vedete sono i
modelli instruct quando ci fate chat non
è il modello GPT e basta ed è molto
interessante Perché parlava prima il
prof di super intelligenze di dominio no
pensate a dover scrivere le regole di
una intelligenza che vi batte da un
punto di vista di quoziente intellettivo
è un po' come i miei ragazzi dico un po'
come il cane che insegna al padrone e in
Questo esempio noi non siamo il
padrone Quello è il modo su cui giocare
però dobbiamo fare una cosa che il
regolatore non è ancora disposto ad
accettare che ci saranno morti nel senso
ci saranno errori se è matematicamente
impossibile che non ci siano
allucinazioni ed errori e se è
matematicamente impossibile che noi non
adottiamo queste tecnologie Perché
l'unica cosa che abbiamo visto del
dell'adozione di tecnologia è che è una
una tecnologia una volta che viene
inventata non esiste modo per evitarne
la l'adozione Beh de che due e l'una o
Accettiamo il rischio o meno e chiudendo
così almeno poi andiamo avanti
attenzione a come a come l'ai Act
classifica il rischio sono andato su una
serie di volte a raccontarlo però laai
Act è un Risk Based approach Ma dove il
rischio è legato all'applicazione Ok il
rischio di
applicazione che Attenzione è uno
scroscio di bestemmie
perché io posso normale normare Finché
voglio l'applicazione e dire questo si
può fare questo no questo devo fare
un'attenzione eccetera ma finché io non
calcolo il rischio endemico del sistema
allora sì che è un problema perché
ancora una volta come io Commercio
commercializzato a chi lo do o non lo do
Chi è in grado di prescriverlo meno a
quali A quale tipo di persone ad esempio
le donne incinta non posso
somministrarlo
ma ha un 20% di di di adverse Effect che
uccidono il paziente Ok finché non
calcoliamo il rischio endemico tutti gli
altri rischi sono un di cui
assolutamente interessante ma quasi
tangente alla realtà la parte su cui mi
piacerebbe che voi sbatt la testa quella
è la parte su cui mi piacerebbe che chi
ha meno di 20 anni Chi ha meno di 30
anni si incazz asse come una vipera
perché le cose che dovete vedere sono il
rischio di decisioni prese dalle
macchine ma lì spero che tutti voi avete
letto Oil con weapon of Math Destruction
se non lo avete letto vergogna andate a
comprarvi Weapons of Math Destruction
Spero che molti di voi abbiano letto
floridi con High persuasion che è
l'ultimo Paper che ha pubblicato sulle
super
persuasioni che è la stessa cosa che fa
paura a a Sama e spero che tanti di voi
abbiano giocato con GPT abbastanza per
sapere e per comprendere che applicato
in modalità Cino Fallica diventa più
pericoloso di una pistola
[Musica]
[Applauso]
importante che ci ha fornito
Посмотреть больше похожих видео
The future of artificial intelligence in radiology: Prof. Dr. med. Mathias Goyen
Algor-Ethics: Developing a Language for a Human-Centered AI | Padre Benanti | TEDxRoma
AI will replace Data Analysts in 2024!!
10 lavori che mai, proprio mai saranno spazzati via dall'A.I...
List of Medical specialities under threat by AI-2034.
Why AI progress seems "stuck" | Jennifer Golbeck | TEDxMidAtlantic
5.0 / 5 (0 votes)