Latest / おちつきAI 短編集〜生成AIのポイントを短く解説〜 / LLM Wikiとは？生の資料を残してAIが知識のつながりを見つける仕組み

Transcript

LLM Wikiとは？生の資料を残してAIが知識のつながりを見つける仕組み · おちつきAI 短編集〜生成AIのポイントを短く解説〜

• 0:02
  これをみんなどういうふうに活用するの?この概念を。
• 0:06
  ビキペディアをもうこれにしちゃえばいいんじゃないの?
• 0:10
  Speaker 1: あのね、これはね、いろんな文脈で活用できて、もうかなりすごいね、俺の手元にある原稿をまるで読んでるかのような素敵な質問をね、こう
• 0:20
  目がねの反射で読んでる。 反射で読んでる。見えてる?これもしかして。
• 0:26
  あのね、まさにこれね、LLWikiね、これかねりんに合うんじゃないかなと思ってて。
• 0:34
  Speaker 1: えーどういうこと?かねりんWikiってこと? かねりんさ、自分のあらゆるデータをさ、
• 0:41
  Speaker 2: クロードコードにぶち込んでさ、管理してるでしょ? ああそうそう、そんな感じよ。
• 0:48
  Speaker 1: それをもう一個Wikiをかませた方がいいんじゃない?って話。
• 0:54
  Speaker 1: ローカルで? そう、LLWikiって個人のその自分の改善とか、自分のその
• 1:03
  Speaker 1: 何だろう、管理みたいなものにも当然使えるっていう風にアンドレ・カーバッシは言っていて。 別にネットサービスじゃないと?じゃないと、自分の情報、ナレッジを管理する上で非常に重要になると。
• 1:15
  Speaker 1: で、アーキテクチャーも提唱されてるんだけど、どういう構成か、LLWikiってどういう構成になってるかと。
• 1:24
  Speaker 1: これね、非常にシンプルなのよ。かねりんの、今すでに入れてしまっている、いろんなソースとかいろんなかねりん関係のデータがあるじゃない?
• 1:33
  それはそのままでいいのよ。生のソースっていうのがまずあります。 その上にWiki層っていうね、Wikiに再構築したような状態とかがありますと。
• 1:48
  Speaker 1: なるほど、ソースは食材そのまま置いとけってこと? そう、あとは食材をそのまま追加しとけばWiki層が更新されるみたい。
• 1:58
  Speaker 1: Wiki層を更新するのは誰かって言ったら、その上に構築されているスキーマっていうルールがね、こういうふうにWikiを作っていきましょう。
• 2:06
  Speaker 1: どういうふうに進化させていきましょうっていうLLWikiに対するルールみたいなものがあって、それを制定しておきますと。
• 2:12
  Speaker 1: 自分で設計するの? それは、そう、自分で設計するんだけど、基本的には、アンドレ・カーパシーが作った経典みたいなやつを、
• 2:21
  作り方としてはその経典のファイルがあるから、それをクロードコードとかに読ませて、こういうことをやりたいんですけどって言うと、やってくれる。
• 2:31
  Speaker 1: なるほど、そういうセットがあるんだ、もう。Wiki作りましょうセット概念みたいな。 そう、概念がある。アンドレ・カーパシーはこういうふうに運用していくといいよみたいな。
• 2:40
  Speaker 2: なるほど、今回のこの落ち着けAIWikiもその概念、この今の階層構造に沿って作ってあるの? そう。
• 2:50
  Speaker 1: でもクロードさ、すぐ忘れるからそういうの。 忘れるの? そう、途中、アンドレ・カーパシーの概念を説明して入れて、やってねって言ったんだけど、途中でだんだん方向性が逸れてきたから、もうそれ自体を一番ト
• 3:03
  Speaker 1: ップに入れて、もう常にお前これを読んどけって。
• 3:06
  Speaker 1: なるほど。 俺はこの概念で作るんだって言ったらもうずれなくなったけど、結構その常にアンドレ・カーパシーのこの提唱に従ってやるんだみたいな。
• 3:15
  アンドレ・カーパシーが神であるからスタート。 そう、これが経典なんだみたいなね。 法律より上である。そうすると生のソースは生のソースのままでウィキ層っていうのはできるね。
• 3:24
  Speaker 1: ウィキ層、はいはいはい。 その上にね。 その上に、なんだっけ、コントローラー。 スキーマ、そうそうそうそう。
• 3:31
  Speaker 1: スキーマ。 ルール、どういうふうに構築していくかみたいな。 どういう規約を作るか。
• 3:38
  Speaker 1: そこだけ構築しちゃえば、あとは生のソースを入れていけばウィキが更新されていくよっていう仕組みができるから。
• 3:45
  Speaker 1: そうすると、カネリの概念、カネリが持っているそのいろんな仕事とかいろんな情報が横軸に繋がっていくんだよね、ウィキとして。
• 3:54
  Speaker 2: 入れる時はだからLLMを介して、そのLLMはどこに噛むの?それは。
• 4:00
  Speaker 1: LLMはどこに噛むか、クロードコードがそこに噛むって感じかな。
• 4:08
  Speaker 2: 僕からLLMに渡して、LLMを通して、どこに行くのよ。
• 4:14
  入れたらウィキ更新してって言ったら、ウィキ更新しますって言って。
• 4:18
  Speaker 2: スキーマ層に行くのか、その後に。
• 4:21
  Speaker 2: そうだね。 この情報の流れとしては。
• 4:23
  Speaker 1: 情報の流れとしては、スキーマを読みに行って、そうだ、更新されたと。これが追加されてる。
• 4:29
  じゃあウィキを更新するって言って、ウィキのこの内容だったらこのページとこのページに更新して、新しい概念はこれが追加されるよね。
• 4:37
  Speaker 1: ここが繋がるよねってバーっと更新してくれるみたいな。
• 4:41
  その仕事はスキーマがやるってことか。
• 4:43
  Speaker 1: そう、スキーマはルールだから。LLMがやってくれる感じかな。
• 4:46
  Speaker 2: スキーマのルールに従ってLLMが動いてウィキを更新する。
• 4:50
  カネリはウィキに対してLLMで検索をすればいいんだね。
• 4:56
  Speaker 1: LLMを使って、そうすると例えばこういうことなんだけどって言ったら、LLMは今まではカネリの生のソースを読みに行ってたわけ。
• 5:05
  そうだよね。だからこれさ、トークンとかヤバいのかなとかってずっと思ってたもん。
• 5:10
  Speaker 1: ヤバいよ。
• 5:11
  Speaker 2: だって、この件についてのこの話っていう時にさ、結構バーって全部文字検索かけてるみたいなイメージじゃない?
• 5:22
  Speaker 2: いつもトークンが何十形何百形みたいになってくる。
• 5:26
  Speaker 1: そう、それだけでダーって読みに行ったりするからすごく消費をするのね、コンテキュータを読みに行かなきゃいけない。
• 5:33
  Speaker 1: だけどスキーマを使ってウィキ層を構築してあげれば、基本的にはウィキを読みに行けって言っとけば、
• 5:41
  Speaker 1: 辿っていくんだよね、概念をね。インデックスが。最初にインデックスってこの表紙みたいなやつがあって、
• 5:46
  Speaker 1: この付き合いウィキと一緒で。そっから探していって、似たような概念とかつながりを辿って検索してくれるから、
• 5:55
  Speaker 1: 意外なところがつながったりとか、いろいろな横の情報の発展みたいなところが受け取れると。
• 6:04
  Speaker 2: ファイル検索じゃなくて、ウィキにアクセスするようになって、ウィキを介してデータを見ていく。
• 6:11
  Speaker 1: そう。
• 6:14
  Speaker 2: 実体はどこにあんの?ウィキっていうものがさ。
• 6:17
  Speaker 1: ウィキはマークダウンのファイルになってます。
• 6:20
  Speaker 2: 一本版?
• 6:21
  そう。回想構造にはなってる。
• 6:25
  Speaker 1: けど普通にマークダウンファイルが繋がっているだけ。
• 6:31
  マークファイル同士が?
• 6:36
  Speaker 2: そうなんだ。
• 6:38
  Speaker 1: 普通にテキストで単なる。
• 6:40
  Speaker 2: それをクロードコードを使う時とかに、ウィキを使えばすげえトークンを抑えていけるってこと?
• 6:48
  Speaker 1: そう。今までこれ全部やってたのがちゃんと。
• 6:50
  Speaker 2: 天才じゃんそれ。発明じゃない?
• 6:54
  Speaker 1: だからこれで。
• 6:55
  Speaker 2: めちゃめちゃトークン消費量も抑えられますよノウハウじゃんそれ。
• 6:58
  Speaker 1: トークン消費量がどれくらい、ウィキがでかくなってきたら結局ウィキを更新するのにもすごくトークン消費するから。
• 7:06
  Speaker 2: 更新にも使うんだね。結局トントンくらいなのかな。
• 7:10
  Speaker 1: どのくらいの頻度で情報を追加するかっていうのもあると思うけど、
• 7:16
  Speaker 1: まだ自分の個人ナレッジで使ったわけじゃないから、どのくらいの威力があるかわかんないけど、
• 7:21
  Speaker 1: いろいろ自分の個人のやつとか論文とかを使って、自分で収集してる論文をウィキにしましたよみたいな人が結構いて。
• 7:31
  Speaker 2: データベースじゃなくてって感じ?
• 7:33
  Speaker 1: そうそうそう。そうするとやっぱその論文同士の横のつながりみたいなものが発展的にわかって、新しい発見につながるよねみたいな。
• 7:42
  Speaker 2: 前支部長言ってたさ、AI時代はさ、収集した情報の横のつながりを作るの大事だみたいに言ったじゃん。
• 7:49
  Speaker 1: そうそうそうそう。
• 7:50
  Speaker 2: それのある意味の解だね。
• 7:52
  Speaker 1: そうだよ。だからこれで。
• 7:53
  Speaker 2: モーション×オブシリアンだとか言ってたけど、そっちじゃなくてLLMウィキだみたいな感じ?
• 7:58
  Speaker 1: でもこのLLMウィキ、ビューワーとしてオブシリアンを推奨されてるのよ。
• 8:04
  Speaker 2: あ、そうなんだ。オブシリアンのソフトを使って中身を見ましょうってことか。
• 8:08
  Speaker 1: そう。なぜならグラフビューができるから。
• 8:11
  Speaker 2: さっきの?
• 8:12
  そう。マークダウンなんだよ。オブシリアンも。
• 8:15
  Speaker 1: つながりとかもグラフビューでオブシリアンだったら見れるから。
• 8:19
  Speaker 2: 基本的にはビューアーとして使うオブシリアン。難しい使い方覚えなくてもいいってことだよね。
• 8:27
  Speaker 1: もともとオブシリアンでやりたかった概念をLLMで発展的にやらせてるみたいなイメージかな。
• 8:35
  Speaker 2: なるほどなるほど。めちゃめちゃハードル下がってるね。
• 8:39
  Speaker 2: オブシリアンを使うとかじゃないよな。
• 8:42
  Speaker 1: オブシリアンを使おうと思うと結構難しかった。
• 8:46
  でも元々結構使い手の人はオブシリアン使ってつながりとかを自分で作りながら、それをLLMに読ませていろんなことをやってたのね。
• 8:57
  Speaker 2: なるほどね。そもそも先を言ってたんだ。
• 9:00
  Speaker 1: そう。だからそういうつながりがLLMにとってすごく重要な情報になってるよっていうのはもともとわかってたことなんだけど、
• 9:07
  Speaker 1: それをWikiっていう形で表現し直しましょうみたいな。
• 9:11
  Speaker 1: そのアーキテクチャをこういう形にすればいいんじゃないっていうのを提唱したのがこのLLM Wikiで。
• 9:17
  Speaker 1: アンドレ・カパシーが言ってるっていうことですごく注目を集めてますよねと。
• 9:23
  Speaker 2: なるほどね。めちゃくちゃいいんじゃない?
• 9:27
  Speaker 1: 実際に落ち着きWikiを構築してみて、面白かったもんね普通に。
• 9:32
  Speaker 1: あ、俺こういうこと言ったなとか、あ、これこういう話だったなみたいなのもあるし、
• 9:37
  Speaker 1: ここつながったなみたいなのもあるし。
• 9:42
  Speaker 2: こうやって見直して使うものなの?これ。作りましたは作ってどうするの?これ。
• 9:49
  Speaker 1: 見直し、ナレッジとしても見れるっていうのも。
• 9:54
  Speaker 2: 基本AIが参照するものとして効率がいいデータの形式ですねが一個じゃん。
• 9:59
  Speaker 1: あとは、ラグと違ってつながりが自分の目で見えますよねっていうのもある。
• 10:07
  Speaker 2: なるほどなるほど。
• 10:07
  Speaker 1: ラグはちゃんこ分けしたものとか、それをインデックス登録したものを可視化できてるわけではないから。
• 10:13
  Speaker 2: そうだよね、あくまでもAIの回答で出てきたものだけ見るみたいな。
• 10:19
  Speaker 2: そう。
• 10:20
  Speaker 2: これはじゃあ直接こうやってWiki形式で見れて楽しいねってこと?辞書みたいに使って。
• 10:25
  Speaker 1: そう、Wiki形式で見れて、Wikiの検索も別にやろうと思えばできるし、
• 10:31
  Speaker 1: 自分の中でこの概念の発見のツールとしても使えると。
• 10:35
  配信しながらめっちゃ使えるなこれ。
• 10:36
  Speaker 1: 人間としての過読性があるから、そういう形でAIのためのテキストをまとめられるよねっていうのも、このLLLWikiのすごくいいところ。
• 10:49
  Speaker 2: Wikiぐらいの、マークダウンだったらさ中身がさ、スマホとかにポイって入っちゃうよね。
• 10:54
  Speaker 1: 入る入る。
• 10:56
  でなんかソフトさえありゃうまい具合に見れるやさ。
• 10:59
  Speaker 1: 見れると思うよ。
• 11:00
  Speaker 2: スマホでも全知識ここにみたいな感じになるね。
• 11:06
  Speaker 1: ある程度のコンセプトで知識を分けなければ、何でもかんでも入れるとだんだんこうね。
• 11:11
  Speaker 2: これコンセプトで分けた方がいいわけかな。
• 11:14
  Speaker 2: 自分のパーソナル情報Wiki、あとなんかリサーチしているポッドキャストに関するリサーチWikiみたいな。
• 11:24
  そのぐらいで分けた方がいいと思う。流動的には。
• 11:26
  Speaker 2: こういう分け方?
• 11:28
  Speaker 1: うん。全部まとめて入れちゃってもいいとは思うけど。
• 11:31
  まとめて入れたら横の繋がりがなんか意外な繋がりが見つかったり。
• 11:36
  Speaker 1: 意外な繋がりも分かると思う。
• 11:37
  Speaker 1: でも例えばとある分野に対する研究論文をいっぱい集めて読んでるんだったらその分野の研究の論文だけで作った方が。
• 11:47
  Speaker 1: なんか見たい、フォーカスしたいところがあるんだったらそっちにフォーカスした方がいいんじゃねえかなとは個人的には思うけど。
• 11:54
  Speaker 2: 繋がりを発見するためにって考えたらもう全部ここに一箇所に入れた方がいいんじゃないかとかって思っちゃうんだけど。
• 12:00
  Speaker 1: そうだね。意外と繋がらない。あんまり軸が違うと繋がらなかったりすると思うし。
• 12:07
  Speaker 2: ソースが全部表示されるわけだもんね。
• 12:11
  Speaker 1: そうだね。
• 12:11
  Speaker 2: これは。
• 12:13
  Speaker 1: で、そのホームソースの方は別にいじってないし、編集しに行かないから。
• 12:17
  Speaker 2: 確かにでも今すぐ使えるなって思ったのは、自分のパーソナルデータとか動かしてるプロジェクトの情報全部ぶち込んだKanelin Wikiを作るのと、
• 12:28
  Speaker 2: あとリサーチしたもののノーションにバンバン溜まっていくけど見ない死にぐらになってるやつ。
• 12:34
  Speaker 2: それもったいないからWikiにしたらいいかなって思った。
• 12:40
  Speaker 1: そうだね。たぶんすごくそういう使い方をするといいんじゃないかなと思って。
• 12:45
  Speaker 1: 俺もまだこの落ち着きAIラグ、落ち着きAIラジオの内容しかWikiにしてないけど、
• 12:52
  Speaker 1: これだったらちょっといろいろ、自分の今の活動もこういう形で一回まとめ直してみようかなって思ったもんね。
• 12:59
  Speaker 2: まず自分のことね。
• 13:01
  落ち着きAIラジオだけまとめてて面白かったもんこれ、内容。
• 13:06
  Speaker 1: 非常に使えるとは思います。