具体的な問題
じっくり取り組めるプロジェクトをすぐに見つけられる情報源を紹介する。その多くは難しく、進展させるにはさらなる文献読解がおそらく必要になるが、内容を理解して方向感覚をつかむこと自体は難しくないはずだ。
-
AISIアラインメント・プロジェクト: 計算複雑性理論
この研究領域は、計算複雑性理論を用いてスケーラブルな監督(scalable oversight)を研究する未解決問題を集めている。ディベート(debate)や証明者-検証者ゲーム(prover-verifier games)といった手法に対する、形式的保証、不可能性の結果、誤差限界に焦点を当てる。
-
Iliadエコシステム
このページは、Iliadエコシステムに属する団体を紹介している。解釈可能性、理論モデル、エージェンシー、アラインメントに取り組むグループが含まれる。各団体が何を研究しているのか、そしてIliadが技術的な研究の賭けをどのように支援・インキュベートしているのかを説明している。
-
MAIS未解決問題集
このディレクトリは、AIセーフティに関連する数学の未解決問題を集めたもので、各問題は短い個別のドキュメントとして保存されている。具体的な問いをざっと眺め、狭くスコープの定まった問題を見つけて調べるのに便利である。
-
Timaeusプロジェクト・アイデア集
このページは、発達的解釈可能性(developmental interpretability)と特異学習理論(singular learning theory)のプロジェクト・アイデアを集めている。スターターノートブック、進行中のプロジェクト、未着手のリサーチクエスチョンが、難易度や現況についての実践的な手引きとともに掲載されている。