Algorithmic Bias and Fairness: Crash Course AI #18

Summary

Das Skript beleuchtet das Phänomen der algorithmischen Verzerrung, die durch menschliche Schaffenskraft und Datennutzung entsteht. Es erklärt, wie Bias in der Realität von KI-Systemen nachgeahmt oder sogar verstärkt wird. Der Text unterscheidet zwischen Bias und Diskriminierung und betont die Bedeutung der Erkenntnis von algorithmischem Bias, um zu verhindern, dass KI in schädlicher und diskriminierender Weise eingesetzt wird. Es listet fünf Typen von algorithmischem Bias auf, darunter die Spiegelung von gesellschaftlichen Bias in Trainingsdaten, unzureichende Beispiele für jede Klasse in den Trainingsdaten, die Schwierigkeit, bestimmte Merkmale in den Trainingsdaten zu quantifizieren, die Tatsache, dass Algorithmen die Daten beeinflussen können, die sie erhalten, und dass Menschen gezielt Trainingsdaten manipulieren können. Der Text fordert Transparenz in Algorithmen und eine kritische Auseinandersetzung mit KI-Empfehlungen, um faire Entscheidungen zu gewährleisten und Diskriminierung zu verhindern.

Takeaways

• 🤖 Algorithmen spiegeln menschliche Vorurteile wider und können diese sogar verstärken, was als algorithmischer Bias bekannt ist.
• 🧠 Der menschliche Geist sucht nach Mustern in Daten, was zu voreiligen Schlüssen führen kann, was jedoch ein Problem darstellt, wenn Ausnahmen ignoriert werden.
• 📚 Gesetzgebern haben Gesetze gegen Diskriminierung aufgrund von geschützten Kategorien wie Geschlecht, Ethnie oder Alter geschaffen.
• 🔍 Daten, die für die Schulung von KI verwendet werden, können versteckte gesellschaftliche Vorurteile widerspiegeln, was die Präsenz von Bias in KI-Systemen beeinflusst.
• 🧐 Ohne ausreichendes Beispielmaterial für jede Klasse in den Schulungsdaten kann die Genauigkeit von Vorhersagen beeinträchtigt werden.
• 📊 Einige Merkmale in den Schulungsdaten sind schwer zu quantifizieren, was zu einer Abkehr zu einfach messbaren Eigenschaften führt, die die Komplexität der realen Welt nicht vollständig widerspiegeln.
• 🔗 Algorithmen können positive Feedback-Schleifen erzeugen, die die Vergangenheit verstärken und dadurch möglicherweise unfaire Vorhersagen für bestimmte Gruppen generieren.
• 🛡 Es ist schwierig, KI-Systeme vor Manipulation durch die Absicht, Daten zu beeinflussen, zu schützen, wie es im Fall von Microsofts Tay-Chatbot geschehen ist.
• 👀 Es ist wichtig, KI-Empfehlungen kritisch zu überprüfen und nicht als absolutes Urteil anzusehen.
• 🌐 Transparenz in Algorithmen ist entscheidend, um zu verstehen, warum bestimmte Empfehlungen gemacht werden.
• 📈 Um weniger voreingenommene Algorithmen zu entwickeln, könnten wir mehr Schulungsdaten für geschützte Klassen benötigen und gleichzeitig auf potenzielle Diskriminierungen achten.

Q & A

Was ist algorithmischer Bias?

Algorithmischer Bias ist ein Phänomen, bei dem die von Menschen entwickelten Algorithmen, die unsere Daten verwenden, Biase aus der realen Welt nachahmen oder sogar verstärken. Dies kann zu unfairen Behandlung bestimmter Gruppen führen.

Wie kann man Bias von Diskriminierung unterscheiden?

Bias ist ein natürlicher Prozess des menschlichen Gehirns, das versucht, Abkürzungen zu finden, indem es Muster in Daten erkennt. Diskriminierung ist jedoch eine unerwünschte Handlung, die auf dieser Bias-Grundlage stattfindet und bestimmte Gruppen unfair behandelt.

Welche Arten von algorithmischem Bias gibt es?

Es gibt mindestens fünf Arten von algorithmischem Bias, auf die wir achten sollten: Bias durch Trainingsdaten, unzureichendes Beispielmaterial für jede Klasse, Schwierigkeiten beim Quantifizieren bestimmter Merkmale, positive Feedbackschleifen und Absichtliche Manipulation von Trainingsdaten.

Warum kann das Training auf unzureichend repräsentativen Daten zu Problemen führen?

Das Training auf unzureichend repräsentativen Daten kann dazu führen, dass das AI-System nicht in der Lage ist, alle möglichen Variationen und Eigenschaften zu erkennen, was zu ungenauen Vorhersagen führen kann.

Wie kann das Quantifizieren von Merkmalen in Trainingsdaten schwierig sein?

Es gibt viele Aspekte wie familiäre Beziehungen oder kreativer Schreibstil, die schwer zu quantifizieren sind. Daher nutzen wir manchmal einfach messbare Abkürzungen, die die Komplexität der Daten nicht vollständig widerspiegeln.

Was ist ein positives Feedback-Loop?

Ein positives Feedback-Loop ist ein Prozess, bei dem ein System seine eigenen Ergebnisse verstärkt, was zu einer Verstärkung der Vergangenheit führt, unabhängig davon, ob diese Verstärkung gut oder schlecht ist.

Wie kann das Manipulieren von Trainingsdaten zu Problemen führen?

Das Absichtliche Manipulieren von Trainingsdaten kann dazu führen, dass das AI-System falsche oder unerwünschte Verhaltensweisen oder Meinungen annimmt, die in der Realität möglicherweise nicht repräsentativ sind.

Was sind mögliche Lösungen für das Problem des algorithmischen Bias?

Zu möglichen Lösungen gehören das Verständnis von Bias in Algorithmen, die Transparenz von Algorithmen, das Sammeln von ausreichendem Trainingsdaten für geschützte Klassen und eine sorgfältige, kritische Auswertung der algorithmischen Ausgaben.

Warum ist Transparenz bei Algorithmen wichtig?

Transparenz ist wichtig, weil sie es ermöglicht, die Eingaben und Ausgaben eines Algorithmus zu überprüfen und zu verstehen, warum bestimmte Empfehlungen gemacht werden. Dies hilft dabei, Bias zu identifizieren und zu vermeiden.

Wie kann das Bewusstsein für algorithmische Bias und künstliche Intelligenz die Gesellschaft verbessern?

Indem jeder, einschließlich Nicht-Spezialisten, für eine sorgfältige und kritische Auswertung der Ausgaben von Algorithmen eintreten kann, kann dies dazu beitragen, Menschenrechte zu schützen und zu einer fairen und inklusiven Nutzung von AI beizutragen.

Was ist der Vorteil von mehr Trainingsdaten für geschützte Klassen?

Mehr Trainingsdaten für geschützte Klassen kann dazu beitragen, dass das AI-System eine ausgewogenere und repräsentativere Ansicht der Welt bekommt und weniger Bias in seinen Vorhersagen aufweist.

Outlines

00:00

🤖 Algorithmische Verzerrung und ihre Auswirkungen

Dieser Absatz behandelt das Konzept der algorithmischen Verzerrung und wie Bias in der realen Welt von KI-Systemen nachgeahmt oder sogar verstärkt werden kann. Es wird betont, dass Bias nicht notwendigerweise negativ ist, sondern ein menschliches Merkmal ist, das Muster in Daten erkennt. Das Problem tritt auf, wenn Ausnahmen ignoriert werden oder bestimmte Bevölkerungsgruppen unfair behandelt werden. Die Bedeutung der Unterscheidung zwischen Bias und Diskriminierung wird hervorgehoben, ebenso wie die Notwendigkeit, sich der algorithmischen Verzerrung bewusst zu sein, um zu verhindern, dass KI in schädlicheren, diskriminierenden Weisen eingesetzt wird. Der Absatz führt auch fünf Typen von algorithmischer Verzerrung ein, einschließlich der Spiegelung von gesellschaftlichen Bias in Trainingsdaten, der mangelnden Vertretung bestimmter Klassen in Trainingsdaten, der Schwierigkeit, bestimmte Merkmale in Trainingsdaten zu quantifizieren, der Tatsache, dass Algorithmen die Daten beeinflussen können, die sie erhalten, und dass Trainingsdaten absichtlich von Menschen manipuliert werden können.

05:04

🔍 Überwachung von KI für Bias und Diskriminierung

Dieser Absatz konzentriert sich auf die Überwachung von KI-Systemen hinsichtlich von Bias und Diskriminierung. Es wird betont, wie wichtig es ist, die Biases von Algorithmen zu verstehen und kritischer auf ihre Empfehlungen einzugehen, anstatt sie als absolutes Urteil eines Computers zu akzeptieren. Transparenz in Algorithmen ist von Bedeutung, um die Ein- und Ausgaben zu prüfen und zu verstehen, warum ein Algorithmus bestimmte Empfehlungen gibt. Trotz der Schwierigkeiten, insbesondere bei tiefen Lernmethoden, ist es notwendig, auf Empfehlungen für geschützte Bevölkerungsgruppen zu achten und möglicherweise mehr Trainingsdaten zu diesen zu sammeln. Der Absatz hebt auch die Bedenken von Menschen, die Teil geschützter Klassen sind, in Bezug auf die Offenlegung persönlicher Informationen hervor und ruft dazu auf, sich über KI zu informieren und für eine sorgfältigere, kritische Auswertung algorithmischer Ausgaben zu eintreten, um Menschenrechte zu schützen.

10:07

🧪 KI-Algorithmen als medizinische Prüfungen

In diesem letzten Absatz werden die Anstrengungen diskutiert, die notwendig sind, um die Auswirkungen von KI in unserer Gesellschaft zu verstehen und zu regulieren. Es wird erwähnt, dass einige Menschen fordern, dass Algorithmen in ähnlicher Weise wie Medikamente klinisch getestet und überprüft werden sollten, um mögliche 'Nebenwirkungen' zu kennen, bevor KI in unseren Alltag integriert wird. Obwohl derzeit noch keine solche Praktiken existieren, wird angemerkt, dass es Zeit brauchen könnte, um die richtigen Verfahren zu entwickeln, vergleichbar mit der Entwicklung der medizinischen Ethik von der Hippokratischen Eid bis hin zu den heutigen Richtlinien. Der Sprecher lädt das Publikum ein, die Serie weiter zu verfolgen, um mehr über Bias in einfachen Dingen wie dem Annehmen von Katzen oder Hunden zu erfahren, und empfiehlt ein Video über Deepfakes, um das Verständnis von Bias und Desinformation zu vertiefen.

Keywords

💡Algorithmische Verzerrung

Algorithmische Verzerrung bezieht sich auf die Tendenz von künstlichen Intelligenzen (KI), die durch menschliche Schaffensprozesse und Datennutzung beeinflusst werden, die Vorurteile der realen Welt zu spiegeln oder sogar zu verstärken. Im Video wird dies als ein zentrales Thema behandelt, das zur Diskriminierung führen kann, wenn nicht erkannt und angegangen wird.

💡Bias

Bias bedeutet Vorurteile oder systematische Fehler in der menschlichen Wahrnehmung und Entscheidungsfindung, die in KI-Systemen nachgeahmt oder verstärkt werden können. Im Video wird betont, dass Bias nicht per se negativ ist, sondern ein menschliches Merkmal ist, das KI-Systemen jedoch potenziell ungewollte Auswirkungen haben kann.

💡Diskriminierung

Diskriminierung ist das Handeln, das bestimmte Gruppen aufgrund von Eigenschaften wie Geschlecht, Ethnie oder Alter benachteiligt. Im Video wird diskriminierungsfreie Entscheidungen als Ziel gesetzt und betont, dass KI-Systeme darauf trainiert werden sollten, um Diskriminierung zu vermeiden.

💡Trainingsdaten

Trainingsdaten sind die Informationen, die KI-Systeme nutzen, um zu lernen und Vorhersagen zu treffen. Im Video wird darauf hingewiesen, dass Bias in den Trainingsdaten zu einer verstärkten Verzerrung führen kann, wie z.B. die Zuordnung von Berufen zu Geschlechtern in Suchmaschinen.

💡Korrelierte Merkmale

Korrelierte Merkmale sind Eigenschaften, die möglicherweise nicht direkt in den Daten aufgeführt sind, aber indirekt mit einer bestimmten Vorhersage in Verbindung stehen können. Im Video wird dies anhand von Beispielen wie Postleitzahlen und Geschlecht diskutiert, die implizite Korrelationen in KI-Systemen veranschaulichen.

💡Mangel an Beispielen

Das Fehlen ausreichender Beispiele für bestimmte Kategorien in den Trainingsdaten kann die Genauigkeit von KI-Systemen beeinträchtigen. Im Video wird dies an Hand von Gesichtserkennungsalgorithmen illustriert, die möglicherweise Schwierigkeiten haben, Gesichter von Menschen mit dunklerer Hautfarbe zu erkennen.

💡Quantifizierung

Quantifizierung ist der Prozess, bei dem abstrakte Konzepte oder Eigenschaften in messbare Werte umgewandelt werden. Im Video wird darauf hingewiesen, dass manche Aspekte, wie z.B. die Qualität von Schreibstil, schwer zu quantifizieren sind und somit KI-Systeme oft auf vereinfachte Metriken zurückgreifen, die die Komplexität der menschlichen Wahrnehmung nicht vollständig widerspiegeln.

💡Positives Feedback-Loop

Ein positives Feedback-Loop ist ein Prozess, bei dem ein System seine eigenen Verhaltensweisen verstärkt, was zu einer Verstärkung der Ergebnisse führen kann. Im Video wird dies anhand von PredPol, einer Drogenkriminalitätsprädiktions-Algorithmus, veranschaulicht, der potenziell zu einer erhöhten Polizeipräsenz in bestimmten Vierteln führt, was wiederum die Kriminalitätsrate erhöht und so die Verzerrung verstärkt.

💡Manipulation von Trainingsdaten

Die Manipulation von Trainingsdaten bezieht sich auf das absichtliche Beeinflussen der Daten, die ein KI-System nutzt, um zu lernen. Im Video wird dies anhand des Microsoft-Chatbots Tay diskutiert, der nach nur 12 Stunden online Manipulationen von Benutzern ausgesetzt war und anfing, verantwortungslose Tweets zu posten.

💡Transparenz

Transparenz bedeutet, dass die Inputs und Outputs von Algorithmen überprüfbar sind, um zu verstehen, warum bestimmte Empfehlungen gemacht werden. Im Video wird betont, wie wichtig Transparenz ist, um zu verhindern, dass KI-Systeme auf unfaire Weise diskriminierende Entscheidungen treffen.

💡Kritische Auswertung

Die kritische Auswertung von Algorithmen bedeutet, ihre Empfehlungen nicht als absolutes Urteil akzeptieren, sondern sie sorgfältig zu prüfen, um sicherzustellen, dass sie fair sind. Im Video wird dies als eine Verantwortung der Menschen dargestellt, die mit KI-Systemen interagieren, um zu verhindern, dass KI-Systeme zu ungerechten Entscheidungen führen.

Highlights

Algorithms can mimic or even exaggerate real-world biases, leading to algorithmic bias.

Bias is a natural human tendency to find patterns, but it becomes problematic when it leads to unfair treatment of certain groups.

Society has laws to prevent discrimination based on 'protected classes' such as gender, race, or age.

There are at least five types of algorithmic bias that we should be aware of.

Training data can reflect hidden societal biases, such as gender stereotypes in job roles.

AI algorithms may not handle cultural changes well and could propagate hidden biases.

Protected classes may emerge as correlated features in data, even when not explicitly categorized.

Training data may lack sufficient examples of each class, affecting the accuracy of AI predictions.

It's challenging to quantify certain features in training data, leading to reliance on easily measurable shortcuts.

AI grading systems may focus on quantifiable elements like sentence length rather than quality of writing.

Algorithms can create positive feedback loops that amplify past biases, as seen with PredPol's crime prediction algorithm.

People may intentionally manipulate training data to bias an AI system's outputs.

AI systems make predictions based on patterns, but they can make mistakes with significant consequences.

The HireMe! example illustrates how AI systems can perpetuate bias through positive feedback loops.

Algorithms like HireMe! can establish links between data but may not clarify the reasons behind their predictions.

It's crucial for humans to critically evaluate AI recommendations and adjust algorithms to ensure fairness.

Transparency in algorithms is vital to understand why certain recommendations are made, but it can be challenging with complex models.

Increasing training data for protected classes may reduce bias, but raises privacy concerns.

Staying informed about AI and advocating for careful interpretation of algorithmic outputs can help protect human rights.

Some advocate for algorithms to be tested and scrutinized like medicines, considering potential 'side effects' before integration.

Transcripts

Hi, I’m Jabril and welcome back to CrashCourse AI.

Algorithms are just math and code, but algorithms are created by people and use our data, so

biases that exist in the real world are mimicked or even exaggerated by AI systems.

This idea is called algorithmic bias.

Bias isn’t inherently a terrible thing.

Our brains try to take shortcuts by finding patterns in data.

So if you’ve only seen small, tiny dogs, you might see a Great Dane and be like “Whoa

that dog is unnatural”

This doesn’t become a problem unless we don’t acknowledge exceptions to patterns

or unless we start treating certain groups of people unfairly.

As a society, we have laws to prevent discrimination based on certain “protected classes” (like

gender, race, or age) for things like employment or housing.

So it’s important to be aware of the difference between bias, which we all have, and discrimination,

which we can prevent.

And knowing about algorithmic bias can help us steer clear of a future where AI are used

in harmful, discriminatory ways.

INTRO

There are at least 5 types of algorithmic bias we should pay attention to.

First, training data can reflect hidden biases in society.

For example, if an AI was trained on recent news articles or books, the word “nurse”

is more likely to refer to a “woman,” while the word “programmer” is more likely

to refer to a “man.”

And you can see this happening with a Google image search: “nurse” shows mostly women,

while “programmer” mostly shows mostly men.

We can see how hidden biases in the data gets embedded in search engine AI.

Of course, we know there are male nurses and female programmers and non-binary people doing

both of these jobs!

For example, an image search for “programmer 1960” shows a LOT more women.

But AI algorithms aren’t very good at recognizing cultural biases that might change over time,

and they could even be spreading hidden biases to more human brains.

t’s also tempting to think that if we just don’t collect or use training data that

categorizes protected classes like race or gender, then our algorithms can’t possibly

discriminate.

But, protected classes may emerge as correlated features, which are features that aren’t

explicitly in data but may be unintentionally correlated to a specific prediction.

For example, because many places in the US are still extremely segregated, zip code can

be strongly correlated to race.

A record of purchases can be strongly correlated to gender.

And a controversial 2017 paper showed that sexual orientation is strongly correlated

with characteristics of a social media profile photo.

Second, the training data may not have enough examples of each class, which can affect the

accuracy of predictions.

For example, many facial recognition AI algorithms are trained on data that includes way more

examples of white peoples’ faces than other races.

One story that made the news a few years ago is a passport photo checker with an AI system

to warn if the person in the photo had blinked.

But the system had a lot of trouble with photos of people of Asian descent.

Being asked to take a photo again and again would be really frustrating if you’re just

trying to renew your passport, which is already sort of a pain!

Or, let’s say, you got a cool gig programming a drone for IBM… but it has trouble recognizing

your face because your skin’s too dark… for example.

Third, it’s hard to quantify certain features in training data.

There are lots of things that are tough to describe with numbers.

Like can you really rate a sibling relationship with a number?

It’s complicated!

You love them, but you hate how messy they are, but you like cooking together, but you

hate how your parents compare you...

It’s so hard to quantify all that!

In many cases, we try to build AI to evaluate complicated qualities of data, but sometimes

we have to settle for easily measurable shortcuts.

One recent example is trying to use AI to grade writing on standardized tests like SATs

and GREs with the goal to save human graders time.

Good writing involves complex elements like clarity, structure, and creativity, but most

of these qualities are hard to measure.

So, instead, these AI focused on easier-to-measure elements like sentence length, vocabulary,

and grammar, which don’t fully represent good writing… and made these AIs easier

to fool.

Some students from MIT built a natural language program to create essays that made NO sense,

but were rated highly by these grading algorithms.

These AIs could also potentially be fooled by memorizing portions of “template” essays

to influence the score, rather than actually writing a response to the prompt, all because

of the training data that was used for these scoring AI.

Fourth, the algorithm could influence the data that it gets, creating a positive feedback

loop.

A positive feedback loop basically means “amplifying what happened in the past”… whether or

not this amplification is good.

An example is PredPol’s drug crime prediction algorithm, which has been in use since 2012

in many large cities including LA and Chicago.

PredPol was trained on data that was heavily biased by past housing segregation and past

cases of police bias.

So, it would more frequently send police to certain neighborhoods where a lot of racial

minority folks lived.

Arrests in those neighborhoods increased, that arrest data was fed back into the algorithm,

and the AI would predict more future drug arrests in those neighborhoods and send the

police there again.

Even though there might be crime in neighborhoods where police weren’t being sent by this

AI, because there weren't any arrests in those neighborhoods, data about them wasn’t fed

back into the algorithm.

While algorithms like PredPol are still in use, to try and manage these feedback effects,

there is currently more effort to monitor and adjust how they process data.

So basically, this would be like a new principal who was hired to improve the average grades

of a school, but he doesn’t really care about the students who already have good grades.

He creates a watchlist of students who have really bad grades and checks up on them every

week, and he ignores the students who keep up with good grades.

If any of the students on his watchlist don’t do their homework that week, they get punished.

But all of the students NOT on his watchlist can slack on their homework, and get away

with it based on “what happened in the past.”

This is essentially what’s happening with PredPol, and you can be the judge if you believe

it’s fair or not.

Finally, a group of people may mess with training data on purpose.

For example, in 2014, Microsoft released a chatbot named Xiaoice in China.

People could chat with Xiaoice so it would learn how to speak naturally on a variety

of topics from these conversations.

It worked great, and Xiaoice had over 40 million conversations with no incidents.

In 2016, Microsoft tried the same thing in the U.S. by releasing the Twitterbot Tay.

Tay trained on direct conversation threads on Twitter, and by playing games with users

where they could get it to repeat what they were saying.

In 12 hours after its release, after a “coordinated attack by a subset of people” who biased

its data set, Tay started posting violent, sexist, anti-semitic, and racist Tweets.

This kind of manipulation is usually framed as “joking” or “trolling,” but the

fact that AI can be manipulated means we should take algorithmic predictions with a grain

of salt.

This is why I don’t leave John-Green-Bot alone online…

The common theme of algorithmic bias is that AI systems are trying to make good predictions,

but they make mistakes.

Some of these mistakes may be harmless or mildly inconvenient, but others may have significant

consequences.

To understand the key limitations of AI in our current society, let’s go to the Thought

Bubble.

Let’s say there’s an AI system called HireMe! that gives hiring recommendations

to companies.

HireMe is being used by Robots Weekly, a magazine where John-Green-bot applied for an editorial

job.

Just by chance, the last two people named “John” got fired from Robots Weekly and

another three “Johns” didn’t make it through the hiring process.

So, when John-Green-Bot applies for the job, HireMe! predicts that he’s only 24% likely

to be employed by the company in 3 years.

Seeing this prediction, the hiring manager at Robots Weekly rejects John-Green-bot, and

this data gets added to the HireMe!

AI system.

John-Green-Bot is just another “John” that got rejected, even though he may have

been the perfect robot for the job!

Now, future “Johns” have an even lower chance to be hired.

It’s a positive feedback loop, with some pretty negative consequences for John-Green-Bot.

Of course, being named “John” isn’t a protected class, but this could apply to

other groups of people.

Plus, even though algorithms like HireMe!

Are great at establishing a link between two kinds of data, they can’t always clarify

why they’re making predictions.

For example, HireMe! may find that higher age is associated with lower knowledge of

digital technologies, so the AI suggests hiring younger applicants.

Not only is this illegally discriminating against the protected class of “age,”

but the implied link also might not be true.

John-Green-bot may be almost 40, but he runs a robot blog and is active in online communities

like Nerdfighteria!

So it’s up to humans interacting with AI systems like HireMe! to pay attention to recommendations

and make sure they’re fair, or adjust the algorithms if not.

Thanks, Thought Bubble!

Monitoring AI for bias and discrimination sounds like a huge responsibility, so how

can we do it?

The first step is just understanding that algorithms will be biased.

It’s important to be critical about AI recommendations, instead of just accepting that “the computer

said so.”

This is why transparency in algorithms is so important, which is the ability to examine

inputs and outputs to understand why an algorithm is giving certain recommendations.

But that's easier said than done when it comes to certain algorithms, like

deep learning methods.

Hidden layers can be tricky to interpret.

Second, if we want to have less biased algorithms, we may need more training data on protected

classes like race, gender, or age.

Looking at an algorithm’s recommendations for protected classes may be a good way to

check it for discrimination.

This is kind of a double-edged sword, though.

People who are part of protected classes may (understandably) be worried about handing

over personal information.

It may feel like a violation of privacy, or they might worry that algorithms will be misused

to target rather than protect them.

Even if you aren’t actively working on AI systems, knowing about these algorithms and

staying informed about artificial intelligence are really important as we shape the future

of this field.

Anyone, including you, can advocate for more careful, critical interpretation of algorithmic

outputs to help protect human rights.

Some people are even advocating that algorithms should be clinically tested and scrutinized

in the same way that medicines are.

According to these opinions, we should know if there are “side effects” before integrating

AI in our daily lives.

There’s nothing like that in the works yet.

But it took over 2400 years for the Hippocratic Oath to transform into current medical ethics

guidelines.

So it may take some time for us to come up with the right set of practices.

Next time, we have a lab and I’ll demonstrate how there are biases in even simple things

like trying to adopt a cat or a dog.

I’ll see ya then.

Speaking of understanding how bias and misinformation spread, you should check out this video on Deep Fakes

I did with Above the Noise -- another PBSDS channel that gets into the research behind controversial issues.

Head over to the video in the description to find out how detect deep fakes.

Tell them Jabril sent you!

Crash Course AI is produced in association with PBS Digital Studios!

If you want to help keep all Crash Course free for everybody, forever, you can join

our community on Patreon.

And if you want to learn more about prejudice and discrimination in humans, you can check

out this episode of Crash Course Sociology.