Latest / おちつきAI 短編集〜生成AIのポイントを短く解説〜 / Hugging Faceとは？GitHubとの違いとAIモデルを自分のGPUで試す仕組み

Transcript

Hugging Faceとは？GitHubとの違いとAIモデルを自分のGPUで試す仕組み · おちつきAI 短編集〜生成AIのポイントを短く解説〜

• 0:00
  Speaker 2: KANERIN まあ、AI界のGitHubと呼ばれているような。
• 0:05
  Speaker 2: GitHubを知らない人にとっては、分からないものを分からないものに例えられても、という感じだと思うんだけど。
• 0:10
  Speaker 1: しぶちょー 最近、使い始めたGitHub。
• 0:12
  Speaker 2: KANERIN ああ、GitHub使い始めた?
• 0:14
  Speaker 1: しぶちょー 使い始めましたよ。しかもちょっと何か、チームでの連携を今。
• 0:19
  Speaker 1: KANERIN ああ。
• 0:20
  Speaker 1: しぶちょー 何か、ディポジトリに何とかして、コンタクトを何とかして。
• 0:24
  Speaker 2: KANERIN プッシュプルみたいなね、プルリクエスト出してみたいな、やってるのね。
• 0:27
  しぶちょー ああ、ちょっと今、始めました。
• 0:28
  Speaker 2: KANERIN ああ、ちゃんとやってるね。ちゃんとやってますね。
• 0:31
  Speaker 1: しぶちょー じゃないと何か、俺がAIの指示を仲介することになっていて、何かバカバカしすぎて。
• 0:36
  KANERIN ああ、そういうことね。
• 0:38
  しぶちょー ズーム越しに、はい、うちのAIに指示して、みたいなことやってて。
• 0:43
  Speaker 1: なんで俺がこんなことしなきゃいけないんだろうと思って。
• 0:46
  Speaker 1: これをGitHubで連携すればいいんでしょ?チームメンバーで。
• 0:51
  Speaker 2: KANERIN ああ、そうそうそうそう。それ共有して、そこで更新してみたいな。
• 0:55
  Speaker 1: しぶちょー ええ、で、ハギングフェイスは何?GitHubみたいなもんなの?
• 0:58
  Speaker 2: KANERIN GitHubみたいなもんなんだけど、GitHubは基本的にはソースコード、プログラムを管理するようなツールとして生まれたと。
• 1:07
  もともとはLinuxというOSだよね、オープンソースの。
• 1:12
  Speaker 2: あれの開発を管理するために生まれた仕組みなんだけど、Git自体は。
• 1:16
  Speaker 1: しぶちょー GitHub自体は。ちょっと聞いたね、前、しぶちょーにね。
• 1:20
  Speaker 2: KANERIN なんだけど、ハギングフェイスはそれに近い、みんなでここで共有しましょうね、みたいな。
• 1:27
  Speaker 2: そういう形なんですけど、AIに特化してると。
• 1:31
  Speaker 2: AIのモデルとか、そのLLMのオープンウェイトモデルみたいなやつを共有して、そこでこう開発を進めましょうみたいなプラットフォームになってるよね。
• 1:44
  Speaker 1: しぶちょー じゃあ僕らは使わなくていいやつ?
• 1:46
  Speaker 2: KANERIN だから、落ち着きAIの中でも使っていて、1回使ったのが、
• 1:54
  Speaker 2: あれ、ファインチューニングした大切りをやった時。
• 1:59
  Speaker 1: しぶちょー あったね。
• 2:01
  Speaker 2: KANERIN あのファインチューニングのモデルが、ラマの何ビリオンだったか忘れちゃったけど、
• 2:07
  Speaker 2: あれはハギングフェイスから持ってきたオープンソースのモデルを、自分のGPUでファインチューニングしたってやつなんだけど、
• 2:14
  Speaker 2: ああいうオープンソースのモデルが公開されてますよというプラットフォームがハギングフェイスというもので、
• 2:21
  Speaker 2: もともとはAI友達アプリだったのよ、ハギングフェイスって。
• 2:28
  Speaker 1: しぶちょー AISNSみたいな。
• 2:30
  Speaker 2: KANERIN そう、AIと会話できますよみたいな、そういうアプリを作ろうって言って、
• 2:36
  Speaker 2: ハギングフェイスって本当に絵文字だよね、抱きしめますみたいなさ、ハグする顔の絵文字。
• 2:45
  Speaker 2: 抱きしめる顔を表す絵文字のことをハギングフェイスと言って。
• 2:50
  Speaker 2: そういうアプリとして開発されてたから、その名前がまだ残ってるんだけど。
• 2:55
  Speaker 2: で、AIと会話できますよみたいなアプリとして始まってたんだけど、
• 3:01
  Speaker 2: で、2018年にBERTっていうモデルが出てくるね。
• 3:05
  Speaker 2: BERT知ってる、Googleの。
• 3:07
  Speaker 1: SHUNSUKE 2018年BERT。
• 3:08
  Speaker 2: KANERIN GPTの前にすごく話題になってた、言語モデルのBERT。
• 3:13
  Speaker 1: 知らないっすね。
• 3:16
  Speaker 2: KANERIN かなりBERT知らないとね。
• 3:18
  Speaker 1: SHUNSUKE BERTってなんすか?
• 3:20
  Speaker 2: KANERIN BERT知らないとヤバいっすよ。
• 3:22
  Speaker 1: SHUNSUKE BERT。
• 3:23
  Speaker 2: KANERIN B-E-R-TでBERTですね。
• 3:26
  Speaker 2: BERT知らないと何がヤバいかというと、GKって言ってる。
• 3:31
  Speaker 1: SHUNSUKE まだ本読んでないな。
• 3:34
  Speaker 2: KANERIN あれコンシューマスでしょ。
• 3:37
  Speaker 1: SHUNSUKE そうっす、はい。
• 3:38
  Speaker 2: KANERIN 自然言語の話でBERT出てくるから。
• 3:44
  Speaker 2: GPT1から、GPT1、2、3.5、4みたいな中にBERTとか入ってたり、
• 3:51
  Speaker 2: 途中にBERTがありますよみたいな。
• 3:53
  Speaker 1: SHUNSUKE ヤバいな。
• 3:54
  Speaker 2: KANERIN Googleが作ったGPTみたいなやつね、言語モデルなんだけど。
• 4:00
  Speaker 2: それが2018年くらい出てきて、
• 4:02
  Speaker 2: そのBERTを使って、いろいろAIとやり取りするアプリ作れるんじゃねみたいなことでやるんだけど、
• 4:11
  Speaker 2: その中で、ちょっと難しい話に省略はするんだけど、
• 4:15
  Speaker 2: もともとBERTって機械学習のフレームワークでTensorFlowっていうフレームワークがあって、
• 4:21
  Speaker 1: SHUNSUKE TensorFlow。
• 4:22
  KANERIN TensorFlow。これもGoogleが作った機械学習フレームワークね。
• 4:27
  Speaker 2: AIを作る、AIの学習するようなことを結構簡単にできるよっていうフレームワークがあるんだけど、
• 4:34
  Speaker 2: そのTensorFlowのフレームワークを、これも前提の情報をいろいろ説明しないと難しいんだけど、
• 4:43
  Speaker 2: PyTorchっていう同じようなフレームワークがあって、
• 4:48
  Speaker 2: PyTorchで使えるように移植したんだよね、Hugging Faceのチームが。
• 4:55
  Speaker 2: だから、もともとこのTensorFlowっていうのでしか使えなかったんだけど、
• 5:00
  Speaker 2: PyTorchっていう違う人気のフレームワークで使えるようにして公開したんだね。
• 5:06
  Speaker 2: それなんか多分Hugging Faceの中で使いたかったから。
• 5:09
  Speaker 2: でもこういうのやったから、ちょっと皆さんこういうの使えますよみたいなやったら、
• 5:14
  Speaker 2: めっちゃそれが評価されて、すごく支持を集めたと。
• 5:22
  Speaker 2: で、その時に。
• 5:23
  頭の中が点になってて。
• 5:25
  Speaker 2: ちょっと分かんないと思う。
• 5:27
  Speaker 1: PyTorch、TensorFlow。
• 5:29
  Speaker 2: PyTorch、TensorFlowは人間で出るかな、ちょっと名前だけは出てくるかもしれないけど、
• 5:35
  Speaker 2: AIを作る、AIを動かしたり作ろうと思った時に使うフレームワーク。
• 5:41
  Speaker 1: フレームワーク。
• 5:42
  Speaker 2: ライブラリーみたいなもんだね。
• 5:45
  Speaker 2: こういうパーツでAI作れますよみたいなパーツセットみたいなやつがいっぱい入ってるやつ。
• 5:48
  Speaker 1: はいはいはい。
• 5:49
  Speaker 2: っていうのがGoogleが作ったやつと、PyTorchっていう違う会社が作ったやつ。
• 5:54
  Speaker 2: 2大巨頭があって。
• 5:56
  Speaker 1: ふーん。
• 5:57
  Speaker 2: これはPyTorch派なんだけど。
• 5:58
  Speaker 1: PyTorch派。
• 6:00
  Speaker 2: うん。
• 6:01
  Speaker 1: 派閥があんだ。
• 6:01
  Speaker 2: TensorFlow、Googleさんが大好きって人はね、やっぱTensorFlow使って。
• 6:06
  Speaker 2: お互いなんか美しさを競ってんだよ、なんか。
• 6:08
  Speaker 2: こっちの方が美しいみたいな。
• 6:10
  Speaker 1: 美しさなんだ。
• 6:11
  Speaker 2: なんか言わせると美しいらしい。TensorFlowの方が美しいって言ってる人多いね。
• 6:15
  Speaker 1: えー、Googleの方ね。
• 6:17
  Speaker 2: Googleの方。
• 6:18
  PyTorchの方が俺は好きで。
• 6:22
  うん。PyTorchがHugging Face。
• 6:25
  そう、Hugging FaceがTensorFlowのやつをPyTorchに置き換えた時にすごく人気になった。
• 6:33
  Speaker 1: ふーん。
• 6:33
  Speaker 2: PyTorchは研究分野で使われるんだよね。AIの研究は大体PyTorchで実装されてて。
• 6:40
  Speaker 1: へー。
• 6:40
  Speaker 2: そのまま研究の論文を再現しようと思ったらPyTorchでやるんだけど。
• 6:45
  Speaker 1: ふーん。
• 6:45
  Speaker 2: っていうのがあったりして。
• 6:48
  Speaker 2: 結局何が言いたいかっていうと、いろんなAIの研究があって、その中でいろんなフレームワークが使われているんだけど、
• 6:58
  Speaker 2: 結局その研究結果を手元で再現しようと思った時に結構みんな困ると。
• 7:04
  Speaker 1: 困る?
• 7:05
  Speaker 2: いやこれちょっと使ったことないなとか、このライブラリーなんだみたいな。
• 7:09
  Speaker 2: でも自分はちょっと使い慣れてるもので使いたいよねみたいな感じになるじゃん。
• 7:13
  Speaker 2: だから公開されてる論文を自分の環境で動かすまでが大変だよみたいな課題があるんだねってことをハギングフェイスのチームが気づいて。
• 7:23
  Speaker 2: それをじゃあもう学習されたもの、モデルそのものを数行のコードでパッと読み出せて自分のところで使えるよみたいな環境があったら楽じゃねみたいな。
• 7:35
  Speaker 2: これPyTorchみんな喜んでくれたし、実はAIのアプリ開発するよりそっちのほうが重要あんじゃねみたいなことで気づいて、
• 7:42
  Speaker 2: そっからAIチャットアプリじゃなくて、開発者がAIを簡単に使えるようなプラットフォームを作ろうみたいなね。
• 7:50
  Speaker 2: そういうふうにシフトしていくんだけど、それがハギングフェイスのね。
• 7:54
  Speaker 1: 開発者はAI開発者。
• 7:56
  Speaker 2: AI開発者。AIをなんか開発したいよとか、AIの研究で新しく開発されたモデルをちょっと動かしたいんだと。
• 8:03
  Speaker 2: なんだけど結構その論文として掲載されているものをそのまま手元で動かすのってすげー難しいの。
• 8:11
  じゃなくてハギングフェイスにそのモデルありますよと。
• 8:15
  Speaker 2: これダウンロードしたりとか数行でインストールしてくれば、同じ環境が動かせますと。
• 8:22
  むしろ動かす環境自体もハギングフェイスの中にあるから、それでちょっと動かしてみてくださいみたいなこともできるの、ハギングフェイス。
• 8:30
  Speaker 2: そういう動かす環境も提供してる。
• 8:33
  Speaker 1: それクラウドで動かすってこと?
• 8:36
  Speaker 2: クラウドのGPUリソースみたいなやつをハギングフェイスに持って行って、そこで試せるみたいな。
• 8:41
  Speaker 1: ハギングフェイス上でどうぞみたいな。
• 8:44
  Speaker 2: どうぞみたいな。こっちのGPU使っちゃってくださいみたいな環境までやれちゃうから。
• 8:49
  Speaker 1: それがなかった時代は自分のところで使えるようにするまでめっちゃ大変だったのか。
• 8:54
  Speaker 2: そう。自分のところでわざわざ持って行ってリソースも用意してみたいなことをやらなきゃいけなかったけど、ちょっと試してくれたらハギングフェイスでできますよみたいな。
• 9:03
  Speaker 2: っていうのを提供したのがハギングフェイス。だからAIに特化したGitHubっていうのはそういう意味なんだね。
• 9:10
  途中でなんかTensorFlowとかバイト打ちとかぐちゃぐちゃになったけど、まあそういうことで結局ハギングフェイスっていうのは。
• 9:14
  Speaker 1: なるほど。ハギングフェイスはじゃああれだ。僕らは何か使うことあるかな?
• 9:19
  Speaker 2: 俺は使うことはあるよ。
• 9:21
  Speaker 1: 何かモデルを探しに行きたいとかなんか?
• 9:23
  Speaker 2: そう。
• 9:24
  Speaker 2: うんうん。
• 9:25
  Speaker 2: カネリングは
• 9:26
  Speaker 1: ローカルで何か作りたいなみたいな。
• 9:28
  Speaker 2: よっぽどないと思う。
• 9:30
  Speaker 1: そういうこと言われると使いたくなるんだよな。
• 9:33
  Speaker 2: いやいや。
• 9:35
  Speaker 1: 使ってみたよって。
• 9:37
  Speaker 2: でもローカルLLMをなんかやろうみたいな。
• 9:40
  Speaker 1: ファインチューニング。
• 9:41
  Speaker 2: ファインチューニングしようみたいな時は多分ハギングフェイスからちょっと持ってきましょうかみたいな感じ。
• 9:47
  Speaker 1: うんうんうん。
• 9:47
  Speaker 2: 上級編だよね。だから。