XAI-SA 2024, Opening talk

Summary

このビデオスクリプトは、説明可能な機械学習（AI）に関するワークショップの概要を提供しています。ディープラーニングの進展により、ブラックボックスモデルが増え、その解釈性が失われています。ワークショップの目的は、これらのモデルを透明化し、ホストウェア解釈方法や解釈可能なモデルの設計など、様々な解決策を探求することです。20の論文発表、4つの口頭発表、ポスターセッション、および招待されたスピーカーのトークが予定されており、音楽、音声、音響の分野における解釈可能なAIの進歩を探求します。

Takeaways

• 😀 イベントは説明可能な機械学習（説明可能なAI）についての議論を中心としています。
• 🕵️‍♂️ 説明可能な機械学習は、ディープラーニングの黒箱モデルを透明化する試みです。
• 🛠️ 説明可能性の向上には、モデルの解釈方法やモデルの設計方法など、いくつかの解決策があります。
• 📈 今日のワークショップでは、招待されたスピーカーのプレゼンテーションや多数の論文発表が行われます。
• 🎓 招待されたスピーカーには、音楽機械学習の解釈可能性、解釈可能なモデルとポスト解釈、ディープラーニングのオーディオ処理、AIモデルのデータ記憶の調査、解釈可能なスピーチモデル、オーディオ分類のためのNMFの使用などのトピックが含まれています。
• 🗓️ 20件のポスター発表と4つの口頭発表が予定されており、参加者は全てポスターセッションに参加する予定です。
• 📊 提出した論文は、解釈可能なモデル、ポスト解釈方法の適用、音楽や音声の分析、メソッド論的なAIの分野にわたります。
• 🤝 ワークショップの目標は、この分野で働く人々を集め、協力を促進し、新しいアイデアを出そうとしています。
• 📹 イベントはYouTubeチャンネルで録画され、招待されたトークも同様にアップロードされる予定です。
• 📢 参加者は、パネルディスカッションでインタラクティブな議論に参加し、質問をすることができます。

Q & A

このワークショップの主なテーマは何ですか？

このワークショップの主なテーマは、説明可能な機械学習（説明可能なAI）です。ディープラーニングの進展により、ブラックボックスモデルが増えたことで、それらを透明化しようとする取り組みが議論されています。

ブラックボックスモデルとは何を指し、なぜ問題になるのですか？

ブラックボックスモデルとは、内部のメカニズムや動作が理解できないモデルを指します。問題になるのは、そのモデルの判断プロセスが透明でなく、検証や信頼性が確保できないためです。

説明可能な機械学習のアプローチにはどのようなものがありますか？

説明可能な機械学習のアプローチには、元のモデルを変更せずにトレーニング後に何が起こっているか理解するためのホストウェア解釈方法、または最初から解釈可能なモデルを設計する方法があります。

ワークショップの目標は何ですか？

ワークショップの目標は、この分野で活動している人々を集め、協力を促進し、良いアイデアを出すことです。

ワークショップで何人のポスター発表が行われますか？

ワークショップで20人のポスター発表が行われます。

ワークショップの日程にどのようなセッションがありますか？

ワークショップの日程には、4つの口頭発表、ポスターセッション、および特別な招待講演が含まれています。

招待されたスピーカーの分野は何ですか？

招待されたスピーカーは、音声や音響の専門家、メソッドロジーの機械学習研究者など、説明可能なAI分野に貢献する専門家です。

ポスター発表の最初のセッションは何時に始まりますか？

ポスター発表の最初のセッションは午前10時に始まります。

ワークショップのビデオはどこで見ることができますか？

ワークショップのビデオは、ワークショップのYouTubeチャンネルで見ることができます。

このワークショップで取り上げられる音楽の分野における説明可能性のスペクトルとは何を指しますか？

音楽の分野における説明可能性のスペクトルは、音楽の機械学習モデルを理解するための解釈可能性の範囲を指しており、Ethanの講演で詳しく説明される予定です。

ワークショップの最終日に何が行われますか？

ワークショップの最終日にパネルディスカッションが行われ、参加者は質問を投げかけ、アイデアを出し合うことが期待されています。

Outlines

00:00

😀 解释型AIの紹介とワークショップの目的

この段落では、説明可能な機械学習（AI）のワークショップが始まります。講演者は、ディープラーニングの登場によりモデルがブラックボックス化する傾向があり、その解釈可能性を高めるために説明型機械学習の重要性を強調しています。ワークショップの目的は、この分野で活動している人々を集め、協力を促進し、新しいアイデアを生み出すことです。当日のプログラムには、20の論文発表、4つの口頭発表、ポスターセッションが含まれています。招待されたスピーカーからは、音楽の機械学習、解釈可能なモデルとポスト解釈方法、音声と音響の分野におけるハイブリッド深層神経ネットワークの説明、そしてAIオブジェクトモデルのトレーニングデータのメモ化に関する調査など、多岐にわたるトピックが扱われます。

05:00

📚 レビューアーの感謝とワークショップの詳細

第2段落では、ワークショップの準備と運営に関わった主催者とレビュアーに感謝の意を表しています。それぞれの論文は最低3回、多くの場合は4回のレビューを受け、合計66回のレビューが行われました。また、ワークショップのYouTubeチャンネルについても触れており、ビデオの提出を促しています。イベントは記録されており、参加者は笑顔でカメラに向かっていることが求められています。段落の最後に、次の講演者であるEthanの紹介と、彼のセッションの開始が行われます。

Keywords

💡説明可能機械学習

説明可能機械学習とは、ディープラーニングなどのブラックボックスモデルを理解しやすくするための技術や手法のことを指します。このビデオでは、ディープラーニングの普及によりモデルがブラックボックス化する傾向があり、その解釈性を取り戻すことが重要視されています。例えば、「explainable machine learning」という用語は、ビデオの冒頭で紹介され、その重要性が強調されています。

💡ディープラーニング

ディープラーニングは、人工知能の分野における高度なアルゴリズムのことで、特にニューラルネットワークを指します。ビデオではディープラーニングが普及したことでモデルがブラックボックス化し、その解釈性が失われることが問題視されています。例えば、「before deep learning you happened uh this wasn't really kind of like a feeli because, models were interpretable」という文脈で言及されています。

💡ブラックボックスモデル

ブラックボックスモデルは、内部のメカニズムやプロセスが外部からわからないようなモデルのことを指します。ビデオでは、ディープラーニングが原因で多くのモデルがブラックボックス化し、その中身を理解することが難しくなったと指摘しています。例えば、「the chances are that we, have blackbox models in what we do」という文脈で使用されています。

💡ホストウェア解釈方法

ホストウェア解釈方法とは、モデルのトレーニング後に何らかの方法を用いてモデルの動作を理解することです。ビデオでは、オリジナルのモデルを変更せずに、トレーニング後に解釈を行う手法が提案されています。例えば、「we will see like uh today people will, talk about host HW interpretation, methods where um you don't touch the, original model」という文脈で説明されています。

💡解釈可能なモデル

解釈可能なモデルとは、設計段階で解釈性を持たせたモデルのことを指します。ビデオでは、ブラックボックスモデルの代わりに、解釈可能なモデルを設計することでモデルの理解を容易にするというアプローチが議論されています。例えば、「you could um uh just design an interpretable, model to begin with」という文脈で言及されています。

💡トレードオフ

トレードオフとは、2つの以上の選択肢がある場合、一方を選択することで他方を犠牲にする必要がある状況を指します。ビデオでは、解釈性のあるモデルとディープラーニングモデルの間でトレードオフが存在することを示唆しています。例えば、「there's a trade-off, to explore uh」という文脈で使用されています。

💡スペクトログラム

スペクトログラムは、音声や音楽などの信号を周波数と時間の関数で可視化したグラフです。ビデオでは、スペクトログラムを入力とした際に、モデルが特定の領域に注目していることを解釈する方法が説明されています。例えば、「how can we like what happens if you, have like a spectrogram input your, explainer kind of focus on a particular, area」という文脈で言及されています。

💡音楽機械学習

音楽機械学習とは、音楽に関するデータを使って機械学習モデルをトレーニングし、音楽に関するタスクを自動化する技術のことを指します。ビデオでは、音楽機械学習における解釈性の問題が議論されており、特定のトークがその分野について話す予定とされています。例えば、「Ethan we there uh he will, talk about um spectrum of, interpretability for music machine, learning」という文脈で使用されています。

💡ポスターセッション

ポスターセッションとは、研究者が自分の研究成果をポスターで発表し、参加者が自由に交流する形式のセッションです。ビデオでは、ポスターセッションが行われ、参加者がポスターを用意し、交流することが期待されています。例えば、「the first poster session is, at 10 uh so we ask you to set up set up, your, poster uh at 10」という文脈で説明されています。

💡パネルディスカッション

パネルディスカッションとは、専門家やスペシャリストが座り、特定のテーマについて議論する形式のイベントです。ビデオでは、ビデオの最後にパネルディスカッションが予定されており、参加者が積極的に質問し、アイデアを共有することが期待されています。例えば、「at, the end of today we will have a panel, discussion with these wonderful, panelists」という文脈で言及されています。

Highlights

Explainable AI aims to make black box models transparent.

Different solutions include post hoc interpretation methods and designing interpretable models from the start.

There is a trade-off between model complexity and interpretability.

The workshop will feature presentations on various explainable AI methods and applications.

The goal is to foster collaborations and generate new ideas in the field of explainable AI.

There will be 20 paper presentations, including four oral presentations and 20 poster presentations.

Submissions cover topics like interpretable models, post hoc explanation methods, and applications in speech and audio.

Invited speakers include experts from the speech and audio community and a renowned AI researcher.

Ethan will discuss the spectrum of interpretability for music machine learning.

Cynthia Rudin will compare interpretable models with post hoc interpretations.

Professor Grishar will talk about hybrid and interpretable deep neural audio processing.

Gordon Wi will discuss understanding, probing, and training data memorization in AI models.

Professor Shinji will talk about explainable speech foundation models.

Dr. Janel Pahik will discuss using NMF for interpretable audio classification.

A panel discussion with the invited speakers will conclude the workshop.

The workshop schedule and details are available on the website.

Poster presenters are asked to set up their posters at 10 AM.

The workshop is recording the event for future reference.

The workshop has a YouTube channel for video submissions and recordings.

Transcripts

right I think we'll get started um so

thanks a lot everyone for uh being here

uh 8:30 in the morning um so today it's

going to be about explainable machine

learning explainable AI we word like

machine learning AI intership

interchangeably in the title

um

so let me say uh what is explainable

machine learning so I guess few years

ago this wasn't like before deep

learning you happened uh this wasn't

really kind of like a feeli because

models were interpretable but like with

uh you know everything being deep

learning now uh the chances are that we

have blackbox models in what we do so

basically with explainable machine

learning what we try to do is to somehow

make these black boxes uh transparent

right there's different solutions like

we will see like uh today people will

talk about host HW interpretation

methods where um you don't touch the

original model but you do something else

after training to U uh understand what's

going on going on in in the model or you

could um uh just design an interpretable

model to begin with there's a trade-off

to explore uh so we will see see these I

guess in the presentations uh of the

invited talks today and

also uh there will be quite a few of

papers so you'll see that there also

here like I just like show for instance

uh how can we like what happens if you

have like a spectrogram input your

explainer kind of focus on a particular

area in this case it was like a chirp so

you see that maybe you cannot see

because the colors uh but like a with an

explain with the explanation methods we

are able to kind of like show where the

model is focusing on U but this Workshop

so explaining explainable AI is a

develop developing field right um and

basically this workshop's goal is to

bring together people who are working in

this field and hopefully you know like

uh Foster collaborations and uh uh come

up with some nice ideas hopefully at the

end of the day uh so today we will have

20 paper presentations uh there will be

four oral presentations and in total we

will have 20 posters so everybody will

do a poster presentation um I'll talk

more about the details but like uh we

had submissions on interpret

models about application of different

post talk explanation methods on various

various speech and audio applications we

had some papers on analysis of llms for

music and we also have some

methodological explainable AI

papers so um we also have invited

speakers from the speech and audio like

iasp community and also uh we have a

methodological machine learning talk uh

from a uh from a renowned XI researcher

uh um so with that uh we will start

today with Ethan we there uh he will

talk about um spectrum of

interpretability for music machine

learning then we will have Cynthia Rudin

Professor C Cynthia Ruden from Duke

University she will talk about um

interpretable models versus uh uh you

know post interpretations it will be

right after uh Ethan's talk then we will

have Professor G rishar from uh

telec comp part um it will be about

hybrid and interpretable deep neural

audio processing it will be after the

oral talks 11 15 then we will have

Gordon wiin from uh from mer there uh so

it will be about uh basically

understanding reg tating investigations

into probing and training data

memorization of AIO Genera models we had

one uh then we have Professor Shinji

vatan there it's about uh the talk is

about toward explainable speech

Foundation

models and then finally we will have Dr

Janel parik on using nmf uh for

interpretable audio classification this

will be the last talk and in the end at

the end of today we will have a panel

discussion with these wonderful

panelists and hopefully you know it will

be an interactive panel so that you know

uh you'll ask questions and and we'll

come up with ideas hopefully um so let

me exp so this is the

schedule uh you can find it on the

website uh but for the poster presenters

basically so the first poster session is

at 10 uh so we ask you to set up set up

your

poster uh at 10 um and basically

everybody will present in all the

sessions okay uh we'll probably remove

some of the

chairs back there so that that people

have more

space um and the organizers so myself

Jam suban Franchesco pan over there m

rali who's uh not here Shang gupa bcar

jman who's on Zoom uh and Paris I don't

know where Paris is is like back

on yeah um so uh these are our wonderful

reviewers um

basically we made we tried well each

paper had received received at least

three reviews and most in most cases we

had four reviews and uh in total 66

reviews were

written uh we thank to reviewers for

their

work and one last thing we have a

YouTube channel so for the authors uh if

you haven't sent your video yet please

send it to us on our Workshop

email um

yeah some of us some some of you already

did that like and it's on the on the

YouTube channel of the of the

workshop and we will uh we will put also

all the invited talks on the on our

YouTube

channel uh oh we are recording the uh

the event and there's like a camera so

uh make sure to smile and uh that's it

for me and uh we will continue with uh

Ethan so Franchesco will introduce Ethan

but maybe yeah Ethan maybe you can come

and you can set up everything