ABCI 生成AIハッカソン
- 主催
- 国立研究開発法人産業技術総合研究所 情報・人間工学領域
- 共催
- 株式会社AIST Solutions
- エヌビディア合同会社
- Ubie株式会社
本ハッカソンでは、ABCI利用者及びABCI利用をご検討中の方またはチーム(1チーム3人程度)を対象に、ABCIを活用した生成AIモデルの構築(ファインチューニング)や推論の最適化を実践していただきます。
参加者がデータセットを持ち込み、既存の言語モデルをマルチノードで訓練(ファインチューニング)していただきます。また、単一GPU、複数GPUを用いた推論の最適化にもご利用いただけます。最終日には実施内容や、ハッカソンで得た学び等を共有していただく予定です。ABCIスタッフ(産総研職員)に加えて、深層学習や自然言語処理のスペシャリスト及びGPUのエンジニアがチューターとして参加し、モデルの改善や分散処理等のサポートを行います。
以下の様な方々が参加されることを想定しています。
- 既存言語モデルのファインチューニングを試したい方
- チューター側でサンプルプログラムを用意するので、それをもとにファインチューニングしていただきます。また、コードを書き換え、より高度な手法や効率的な手法にチャレンジしていただきます。
- データセットの準備が間に合わない方についても、こちらで指定するオープンなデータセットを使って言語モデルの訓練を体験していただくことができます。
- 分散訓練をバリバリやりたい方
- サポートできる範囲は限られますが、独自のスクリプト等を用いてABCIのリソースをフル活用していただくような参加方法も大歓迎です。
- 既存言語モデルまたは既存言語モデルをベースとしてファインチューニングしたモデルのNVIDIA GPUによる推論の性能最適化にチャレンジしたい方
- チューター側でTensorRT-LLMによるGPUを用いた言語モデル推論のサンプルプログラムをご用意する予定です。サンプルプログラムをそのまま実行する、または提供プログラムを参考にコードを書き換え独自モデルの推論にチャレンジして戴きます。高スループットな言語モデル推論をぜひお試し下さい。
参加費(計算機利用料を含む)は無料です。
実施結果の公開義務はありませんが、メンターが学習データやモデルを見ることを了承してください。
日時・場所
- 日時
- 2025年2月4日 10:00 - 2月13日 17:00
- 場所
対象者・参加資格
以下のすべてを満たす方:
-
ABCIの利用者もしくは、ABCIの利用に興味がある方
-
PyTorch もしくは TensorFlow を用いて基本的な深層学習モデルの構築を自力で行える方
-
非居住者又は、みなし輸出管理における特定類型に該当しない方
(参考)
- 非居住者: 日本国内にある事務所に勤務しておらず、かつ、日本に入国してから6か月未満の外国籍の方 など
- 特定類型①: 外国法人等や外国政府等と雇用契約等を締結している
- 特定類型②: 外国政府等から年間所得の25%以上の利益を得ている又は得ることを約束している
- 特定類型③: 日本における行動に関して外国政府等から具体的な指示や依頼を受けている
提供資源
参加チームには、本イベント専用のABCIグループを作成します。
また、ABCIアカウントを保有しない方にはABCIアカウントを作成します。
イベント期間中(2/4 10:00 – 2/14 10:00を予定)、参加チームにはABCI 3.0の計算ノード(H)4台を占有提供いたします。
ただ、ハードウェア障害で一時的に使用できないノードが発生する可能性があること、ご了承ください。
また、チームメンバー間での共有ストレージ(グループ領域)20TBの利用を提供いたします。
イベント終了後には計算ノードは使用できなくなりますが、ABCIグループとアカウント、グループ領域は今年度内は維持します。
参加申込方法
ハッカソン参加申込ページからお申し込みください。申込期限は2025年1月10日(金)12:00です。
チーム代表者がお申し込みください。採択された場合、チーム代表者を「利用責任者」としてABCIグループを作成します。大学等からの利用申込の場合、ファカルティーメンバー(教授、准教授、助教等)がお申し込みください。
申込にあたり以下の点にご留意ください。
- 「取り組むテーマ」は、なるべく具体的に記載ください。
- 「開発加速利用への採択」は、チームメンバー1名以上が開発加速利用として採択された課題に属している場合は「はい」とご回答ください。この際、当該開発加速利用に用意されたABCIグループ名と法人名、利用責任者名を記入ください。
- 「ABCIアカウント名」は、今年度有効なABCI 2.0のアカウントをお持ちの場合、記載ください。ABCI 3.0では、ABCI 2.0のアカウントを引き継ぎます。
- 応募多数の場合は、開発加速利用に応募し採択されている方、ABCIアカウントを既に保有されている方、受付順の早い方を優先させて頂きます。
採択結果は、1月15日(水)までにチーム代表者に電子メールにて通知します。
その後、採択されたチーム代表者には、1月19日(日)までに、電子メールにて指定する手段にてABCI 3.0の利用登録申請を実施いただきます。
開催スケジュール
1日目 (2/4: オンライン・オフラインのハイブリッド)
09:30 - 10:00 |
受付 |
10:00 - 10:30 |
ABCI紹介とログイン |
10:30 - 11:30 |
ABCI利用者のためのお役立ち情報 |
11:30 - 12:00 |
自己紹介と目標設定 |
12:00 - 16:50 |
実践(適宜自由に休憩) |
16:50 - 17:00 |
事務連絡・終了 |
2日目〜9日目(オンライン)
10:00 - 17:00 |
各自実践(チューターのサポートはベストエフォートでの対応となります) |
最終日 (2/13: オンライン・オフラインのハイブリッド)
10:00 - 10:30 |
事務連絡、情報交換 |
10:30 - 16:00 |
実践(適宜自由に休憩) |
16:00 - 17:00 |
発表会、事務連絡、アンケート記入・終了 |
チューター紹介
- 村上 真奈:エヌビディア合同会社 ソリューションアーキテクト マネージャー
- 阮 佩穎:エヌビディア合同会社 シニアDeep Learningソリューションアーキテクト
- Vicnent Gong:エヌビディア合同会社 シニアソリューションアーキテクト
- 山本 小太郎:エヌビディア合同会社 シニアDeep Learningソリューションアーキテクト
- 五十木 秀一:エヌビディア合同会社 シニアソリューションアーキテクト
- 日暮 大輝:エヌビディア合同会社 シニアソリューションアーキテクト
- 徳永 匡臣:エヌビディア合同会社 ソリューションアーキテクト
- 太田 満久:Ubie株式会社 機械学習エンジニア / Google Developers Expert (ML/AI)
- 藤原 秀平:株式会社ALGO ARTIS ソフトウェアエンジニア / Google Developers Expert(ML/AI)
- 北田 俊輔:LINEヤフー株式会社 リサーチサイエンティスト
- 滝澤 真一朗:産業技術総合研究所
- 高野 了成:産業技術総合研究所
問い合わせ先
ABCI LLMハッカソン事務局: M-ABCI-hackathon-ml@aist.go.jp