イベント概要
AI Alignmentとは？
AI Alignmentとは、AIを人間の意図した目標や社会規範に沿うようにすることと定義づけられる(Gabriel 2020, 2, Okamoto 2022, 4)。 Chat-GPTに代表されるような生成AIによる人工知能開発は、世界中に大きな影響を与えている。AGIの実現可能性が現実的になっている中で、「AIと人間はどのように共生していくのか」を、真剣に議論するべきではないだろうか。 その重要な論点のひとつとしていま注目されるのが、「AIアラインメント」だ。AIを人間にとって望ましい方向に制御するAIアラインメントは、いわばクルマのエンジンに対するブレーキのように、今後の社会において不可欠な存在となるだろう。だが、研究の中心は欧米で、日本を含めたアジアではそこまで注目されていないのが現状だ。
Japan AI Alignment Symposiumとは？
「Japan AI Alignment Symposium 2024」では、次世代のAIアライメント問題の研究者が、専門家の講義を通してAIアライメント問題の現状や課題について理解し、AIの安全性とAIが社会に与える影響等についての議論を通して、自分たちがするべき行動を考えるきっかけを提供する。 イベント内容は2023年3月に開催された「Japan AI Alignment conference 2023」を参考にし、AI安全性の研究者や専門家だけでなく、AIアライメント問題やAIが社会に与える影響などについて関心のある高校生、大学生、社会人や起業家など、幅広い年代の方を対象として開催予定。
JAIAS2024の目的
Ⅰ. 知識共有と学術的な交流の場を作ること
若い研究者や学生がAIアライメントに関する最新の研究やアプローチについて知識を共有し、異なる専門分野からのアプローチを理解する場を提供する
Ⅱ. 日本を拠点とした新たな研究アイディアや研究協力、スタートアップが生まれる場を作ること
若い研究者や学生が新たなアイディアを発表し、他の参加者と協力する機会を提供する
Ⅲ. 将来の展望と倫理的課題の取り組みへの理解を促進すること
AIのアライメントに関する将来の研究方向や倫理的な課題に対処するためのアプローチについて考え、議論する機会を通じて持続可能なAIの発展に寄与できるようにする
当日のスケジュール
前半
13:00-13:1513:15-13:45
開会の挨拶専門家によるAIアライメントの活動事例紹介
「富士通でのAI倫理研究開発」
小野寺佐知子 氏
富士通株式会社AIトラスト研究センター
「生成AIに対する人々の受容性調査の結果」
中川裕志 氏
特定国立研究開発法人理化学研究所革新知能統合研究センター社会における人工知能研究グループ チームリーダー
13:50-14:50
専門家によるパネルディスカッション
金井良太 氏
株式会社ARAYA代表取締役
山川宏 氏
東京大学松尾研究室全脳アーキテクチャ・イニシアティブ代表
板津木綿子 氏
東京大学大学院情報学環・学祭情報学府 教授東京大学BEYOND AI研究推進機構 B'AI GLOBAL FORUM ディレクター
14:50-15:10
交流時間・休憩時間
後半
15:10-15:5015:50-17:0017:00-17:1517:15-18:00
グループディスカッショングループ発表＆専門家フィードバック閉会のあいさつ参加者交流会（任意参加）
登壇者紹介
板津木綿子 氏
Beyond AI研究推進機構 B'AI Global Forum ディレクター
デジタルメディア技術と社会の接点、日常生活の営みにおけるメディア、レジャーと権力との関係について文化史社会史観点から研究。とりわけ社会的マイノリティの包摂、メディアの人種・エスニシティ表象など文化政治が研究テーマ。余暇活動の中で使われる人工知能の活用によって起こりうる排除や差別、そして同技術により可能となる包摂についても関心を持っている。フルブライト奨学生として米国南カリフォルニア大学に留学し、歴史学の博士号取得。2022年夏よりWomen in AI Asia Pacific Chapter Advisory Boardに就任。『AIから読み解く社会：権力化する最新技術』（東京大学出版会、2023）の共編者。
＃AIと社会 ＃AI時代におけるジェンダー平等社会 ＃マイノリティ研究 ＃情報技術社会 ＃レジャー・スタディーズ
金井良太 氏
株式会社Araya代表取締役
アラヤ創業者。2000年京都大学理学部卒業後、05年オランダ・ユトレヒト大学で人間の視覚情報処理メカニズムの研究でPhD取得。米国カルフォルニア工科大学、英国ユニバーシティ・カレッジ・ロンドンにて研究員。JSTさきがけ研究員、英国サセックス大学准教授（認知神経科学）を経て13年にアラヤを創業。文部科学大臣表彰若手科学者賞、アラヤとしてJEITA ベンチャー賞（2020）、ET/IoT Technology Award（2019）など多数受賞。内閣府ムーンショット事業プロジェクトマネージャー。
#情報科学×神経科学 ＃次世代人工知能 ＃意識の神経基盤
山川宏 氏
東京大学松尾研究室 全脳アーキテクチャ・イニシアティブ 代表
特定非営利活動法人 全脳アーキテクチャ・イニシアティブ 代表。 東京大学大学院 工学系研究科 電子工学専攻 博士課程修了後、富士通研究所に入社 2014年から2019年まで(株)ドワンゴ 人工知能研究所 所長を務め、2015年から2020年3月まで産総研人工知能研究センターの客員研究員に就任。また、2017年から2019年まで東京大学医学部・客員研究員を務められた。 現在、理化学研究所 革新知能統合研究センター 客員研究員、東京大学大学院 工学系研究科 主幹研究員
#情報科学×神経科学 ＃次世代人工知能 ＃意識の神経基盤
小野寺佐知子 氏
富士通株式会社 AIトラスト研究センター
大阪大学基礎工学部情報工学科の修士卒業後、富士通（株）に入社。 富士通研究所にて人工生物エージェント、音声対話分析、運用自動化、DX要件設計などを経て、AI倫理に関わる研究開発に従事。 今年度よりセキュリティや品質も含めた、信頼できるAIに向けたテーマを開始。 現在，富士通（株）富士通研究所 AIトラスト研究センター シニアリサーチマネージャー
中川裕志 氏
特定国立研究開発法人 理化学研究所グループチームリーダー
1975年東京大学工学部卒業後、同大学院博士課程修了。 1980年～1999年に横浜国立大学工学部講師を経て同助教授、教授。 東京大学憤報塁盤センター教授(1999年～2018年)。 東京大学大学院学際情報学府兼任(2001年～2018年) 東京大学情報理工学系研究科数理情報学専攻主兼任(2003年〜2018年)。 2016年より、現在理化学研究所革新知能統合研究センター(AIP)、 同センター社会におけるAI利活用と法制度チームリーダー。
＃社会におけるAI＃ AIと法制度 ＃人工知能倫理 ＃ELSI ＃死後の個人データのあり方 ＃プライバシー保護 ＃自然言語処理
運営チーム
根本一希
東北大学経済学部4年 国際経営や産業組織論などの研究を行った他、UC Berkeleyへの留学。コミュニティミツバチの立ち上げ運営。
僕は専門性が違うので議論には入れない。そんなことはないです。僕の専門性からは遠く離れた会です。大切なのは理解する意欲や姿勢だと思います。次の未来を考える、それが私たちに期待されていることだと思います。
田中励雄
慶應義塾大学理工学部情報工学科２年 学部1年から研究室にて自然言語処理の分野で生成文の評価尺度研究 中谷医工計測技術振興財団奨学生として米国Georgia工科大学Epic labにて深層学習、歩行段階予測の研究インターン
AIと人間が共生できる社会システムの構築のために、AI Alignmentは、「AIに関わる全ての人」にとって非常に重要なテーマであると考えております。学生、研究者、起業家、様々な分野の専門家の皆様と、イベント当日に皆さんと交流できることをとても楽しみにしております！
泉川茉莉
慶應義塾大学総合政策学部４年 学部2年〜3年まで中澤大越研究室にて機械学習による音認識を用いた食行動モニタリング研究 学部3年から清水唯一郎研究室にて科学社会史、STS、技術倫理の研究
AI Alignmentのテーマを軸に、社会と技術の関係や技術に反映すべき人間の倫理観、さらには技術倫理に必要なガバナンスといった問題を考えるきっかけ作りができればと思います。技術者の方に加え、多様な専門分野の方々と意見交流できればと考えています！