Launch of the AI Infra SIG under the CNCF Japan chapter: First meetup and call for speakers

Japanese article follows English one. As we all know, AI is advancing from generative AI to agents, driving growing demand for scalable, efficient infrastructure. Kubernetes and the broader Cloud Native ecosystem are becoming increasingly critical foundations for modern AI workloads. To bring together Japan-local engineers, researchers, and platform builders to share best practices, operational experiences, and emerging technologies for Cloud Native AI infrastructure, Cloud Native Community Japan (CNCJ) is launching AI Infra SIG under the CNCF Japan chapter. In this post, we introduce the motivation behind the AI Infra SIG, its mission, and the FIRST meetup—along with an open call for speakers. Why We Are Launching the AI Infra SIG The emergence of infrastructure challenges for AI workloads. The Cloud Native ecosystem has historically evolved around web applications and microservices. These workloads are typically stateless, CPU- and memory-oriented, and exhibit relatively predictable traffic and scaling patterns. Modern AI workloads, however—particularly those powered by LLMs and AI agents—present a new set of infrastructure challenges with heavy dependence on specialized hardware, complex distributed processing and orchestration, and unique traffic and scaling characteristics. To address these challenges, the Kubernetes community has been actively advancing its vision of AI Readiness, introducing new capabilities, projects, and standards for AI-native infrastructure. Japan is also home to a growing community of practitioners, contributors, and organizations actively working in this space. Many engineers from Japan are already involved in open source projects and community discussions across the Cloud Native AI ecosystem. At the same time, innovation is extending well beyond Kubernetes and CNCF. Across the broader Linux Foundation ecosystem, AI and agent technologies are rapidly emerging as major areas of community-driven development. The PyTorch Foundation has become a hub for open-source AI innovation, supporting projects such as PyTorch and vLLM, while the Agentic AI Foundation has brought together communities working on open standards and interoperability across the rapidly evolving AI agent ecosystem. These developments are not limited to global communities. Japan has an active and growing ecosystem of engineers, researchers, and open-source contributors participating across CNCF, the PyTorch Foundation, the Agentic AI Foundation, and other Linux Foundation projects. Events such as AGNTCon + MCPCon Japan 2026 further highlight the growing momentum around Cloud Native AI and Agentic AI technologies within Japan. As innovation, we believe there is a unique opportunity to strengthen collaboration within Japan while connecting local practitioners to the broader global open-source ecosystem. This is one of the key motivations behind launching the CNCJ AI Infra SIG. Mission and Activities The CNCJ AI Infra SIG aims to bring together engineers, researchers, and platform builders who are shaping the future of AI infrastructure on Cloud Native technologies. Our mission is to: - Share optimization techniques, operational best practices and real-world experiences for building and operating AI infrastructure and workloads. - Strengthen Japan’s engagement with upstream open-source projects and contribute back to the broader AI-related Cloud Native and Linux Foundation ecosystems. To achieve these goals, the AI Infra SIG will organize regular community activities to facilitate knowledge sharing and collaboration around Cloud Native AI infrastructure, including: - Meetups covering practical experiences, emerging technologies, and updates from upstream communities. - Joint initiatives with other CNCJ communities, such as Cloud Native Security Japan, Cloud Native Platform Engineering Japan, and CoHDI Japan. - Collaborative events with companies, research institutions, and broader open source communities across the Linux Foundation ecosystem, including the PyTorch Foundation and Agentic AI Foundation. The AI Infra SIG welcomes discussions and contributions across the Cloud Native AI infrastructure ecosystem, including but not limited to: - Scheduling: Dynamic Resource Allocation (DRA), Workload-Aware Scheduling, Kueue - Orchestration: JobSet, LeaderWorkerSet, KubeRay - AI Deployment Platforms: KServe, llm-d, N, AIBrix - Networking: Gateway API Inference Extension, kgateway, Envoy AI Gateway - Agent Infrastructure: agentgateway (AAIF) and Agent Sandbox - Standards and Conformance: AI Conformance and related standardization efforts The AI Infra SIG organizers are (in alphabetical order): - Masaya Aoyama, Senior Software Engineer / Product Owner, CyberAgent, Inc. - Sunyanan Choochotkaew (Pang), Senior Research Scientist, IBM Research – Tokyo - Toru Komatsu (Toru), Engineer, Preferred Networks, Inc - Shingo Omura, Principal Architect of AI Infrastructure, LY Corporation - Kenta Tada, Member, CNCF End User Technical Advisory Board & eBPF Foundation Governing Board - Kenji Tagashira, Senior Manager, Fsas Technologies Inc Join Our First Meetup & Call For Speaker! To celebrate the launch of the SIG, we are delighted to invite you to our first meetup, themed “Let’s Get Started with the CNCJ AI Infra SIG — Where Are We Today?” Together, we’ll explore the current landscape of Cloud Native AI infrastructure and discuss the latest developments across Kubernetes, CNCF, and the broader open-source ecosystem. - Date: October 1, 2026 - Time: 18:00–21:00 JST - Venue: Seminar Room, 17F Garden Terrace Kioicho (with live stream) - Registration Fee: Free - Link: https://ocgroups.dev/cncf/group/bqd97by/event/7fu3gfg - CfS deadline: August 28, 2026 Call for Speakers: We’d also love to hear from practitioners, researchers, and contributors working on AI infrastructure, platforms, and open source projects. If you have experiences, insights, or emerging ideas to share, please consider submitting a session proposal or lightning talk. Get Involved The CNCJ AI Infra SIG is open to anyone interested in Cloud Native AI infrastructure—from engineers and platform builders to researchers, operators, and open-source contributors. There are many ways to participate: - 🎤 Submit a talk proposal and share your experiences, insights, or lessons learned. - Link: https://ocgroups.dev/cncf/group/bqd97by/event/7fu3gfg (Deadline: August 28, 2026) - 🙋 Join our first and upcoming meetup and connect with fellow practitioners. - 🤝 Contribute to the community through discussions, collaboration, and knowledge sharing. - 🌐 Stay connected with CNCJ for updates on future AI Infra SIG activities and other Cloud Native events: - Community Group: https://ocgroups.dev/cncf/group/bqd97by - X: @CloudNativeComm - LinkedIn: https://www.linkedin.com/groups/14517684/ Whether you’re running AI workloads in production, contributing to upstream projects, exploring new technologies, or just getting started, we’d love to have you join us. We look forward to seeing your proposals and welcoming you to the CNCJ AI Infra SIG community! CNCJ AI Infra SIG発足のお知らせ ＆ 第1回 Meetup 開催・スピーカー募集開始！ 本記事は, Shingo Omura, Principal Architect of AI Infrastructure, LY Corporation, Sunyanan Choochotkaew (Pang), CNCF Ambassador, Senior Research Scientist, IBM Research – Tokyoによって執筆されました。 近年、生成AIや自律型エージェントをはじめとするAI/機械学習技術の進化は目覚ましく、それらを支えるインフラとしてのKubernetesやCloud Nativeエコシステムの重要性がかつてないほど高まっています。 このような大きな技術変革のうねりを受け、このたびCloud Native Community Japan (CNCJ)に、AI/機械学習ワークロードを動かすためのベストプラクティスや最適化、現場の実践知の共有にフォーカスした新しいコミュニティAI Infra SIG (Special Interest Group)を立ち上げます！ この記事では、新SIG設立の背景やミッション、そして記念すべき第1回 Meetupの開催と講演（プロポーザル）募集についてご案内します。 AI Infra SIG 設立の背景 AIワークロードによる新たなインフラ課題の台頭 これまで、Kubernetesを中心とするCloud Nativeエコシステムは、マイクロサービスに代表されるようなWebサービスを主なワークロードとして発展してきました。Webサービスはステートレスで、CPUとメモリを主眼に置き、比較的予測可能なリクエスト特性・スケーリング特性を持っていました。 しかし、LLM（大規模言語モデル）に代表される現代のAIワークロードでは、この前提が大きく変化しており、GPUなどの専用ハードウェアへの強い依存、複雑な分散処理、これまでとは異なるリクエスト特性やスケール特性といった、新たなインフラ課題を生んでいます。 こうしたギャップを埋めるため、Kubernetesのアップストリームコミュニティは近年「AI Readiness」を掲げ、驚くべきスピードで機能開発と標準化が進んでいます。 - スケジューリングとリソース最適化: デバイス管理を柔軟にする Dynamic Resource Allocation (DRA) や、マルチテナントなジョブキュー制御を担うKueue、複数のPodをスケジューリングPrimitiveとして扱うWorkload Aware Scheduling - 分散ジョブのオーケストレーション: JobSet や LeaderWorkerSet といった、これまで以上に複雑な分散ワークロードのオーケストレーション。 - ネットワークとエージェント: Gateway API Inference Extension によるAI推論向けのトラフィック制御や、安全なエージェント実行環境を目指す Agent Sandbox 。 - AI Readiness要件の標準化: Kubernetes SIG Architectureを中心に議論が進む AI Conformance。「AI Ready」なKubernetesの機能要件の定義や、環境間での互換性・適合性を検証するための共通規格の策定。 このインフラの進化は、Kubernetes/CNCFだけにはとどまりません。Linux Foundation全体を見渡しても、AI/エージェントのエコシステムは急速に発展しています。2022年に設立されたPyTorch Foundationでは、PyTorchだけでなく、vLLM や Ray、AIBrix といったLLM/Agent向けの技術が、CNCFのプロジェクトと親和性を持ちながら活発に開発されています。さらに昨年末には、AIエージェント領域における技術の断片化を抑え、開発者と企業が信頼して使えるAI標準を確立すべくAgentic AI Foundationが設立され、2026年09月にはAGNTCon + MCPCon Japanも開催されます。 このように、AI/エージェントの潮流は、Cloud Nativeという枠を超え、インフラ、プラットフォーム、フレームワーク、Agentic AIの実行レイヤーに至るまで、コミュニティやレイヤーを超えて技術的なイノベーションがまさに現在進行形で起きています。 なぜ今、日本でAI Infra SIGを立ち上げるのか？ こうした世界規模で技術革新の波が押し寄せる中、日本国内においてもAI/MLインフラの構築・運用に取り組む企業や開発者が急増している一方で、急速に進化するCloud Native AIエコシステムのベストプラクティスを体系化し、実用的な知見として共有する場はまだ十分に存在していないのが現状ではないでしょうか。 こうした背景から、私たちは、国内のエンジニア、研究者、プラットフォーム開発者、企業、組織がCloud Native × AIのフロンティアを切り拓いていくためのコミュニティとしてAI Infra SIGを立ち上げます。 SIGの概要: ミッションと活動内容 CNCJ AI Infra SIGは、次の2つをコアミッションとして活動します。 - AI/機械学習ワークロードを実行するインフラとしてのベストプラクティス/最適化/実践知見の共有 - AI/機械学習ワークロード関連のCNCFアップストリームへの日本からの貢献拡充 主な活動予定 - 不定期なミートアップの開催（事例共有、最新動向解説、アップストリーム技術者の招待講演など） - 他のSIG/Subgroupとのクロスボーダーな連携 - Cloud Native Security Japan との「AI/Agentにおけるセキュリティ」連携 - Cloud Native Platform Engineering Japan との「複雑なGenAIワークロードのPlatform化」連携 - Composable Hardware Disaggregated Infrastructure (CoHDI) Japan との「Dynamic Resource Allocation」連携 - 外部団体とのコラボレーション（国内企業・団体、PyTorchやAgentic AIなどの他Foundationとの共同イベント） AI Infra SIGの主な関連トピック - Scheduling: Dynamic Resource Allocation, Workload Aware Scheduling, Kueue - Orchestration: JobSet, LeaderWorkerSet, KubeRay - Deployment Stack: KServe, llm-d, NVIDIA Dynamo, AIBrix - Networking: Gateway API Inference Extension, kgateway, Envoy AI Gateway - Agent Infra: agentgateway (AAIF), Agent Sandbox - Standardization: AI Conformance - その他AI Infraに関連する内容 AI Infra SIG Organizers (Alphabetical Order) - Masaya Aoyama, Senior Software Engineer / Product Owner, CyberAgent, Inc. - Sunyanan Choochotkaew (Pang), Senior Research Scientist, IBM Research – Tokyo - Toru Komatsu (Toru), Engineer, Preferred Networks, Inc - Shingo Omura, Principal Architect of AI Infrastructure, LY Corporation - Kenta Tada, Member, CNCF End User Technical Advisory Board & eBPF Foundation Governing Board - Kenji Tagashira, Senior Manager, Fsas Technologies Inc 【第1回】CNCJ AI Infra SIG Meetup 開催決定！ SIGの設立を記念し、記念すべき第1回目のミートアップを開催します！ テーマは「CNCFのAI Infraインフラとしての現在地を把握しよう」です！最先端のCloud Native AIインフラに興味があるエンジニアの皆様、ぜひご参加・ご登壇ください。 - 開催日時: 2026/10/01 18:00〜21:00 - 開催場所: ガーデンテラス紀尾井町17F セミナールーム (オンライン配信あり) - 参加費: 無料 - URL: https://ocgroups.dev/cncf/group/bqd97by/event/7fu3gfg 講演スピーカー（プロポーザル）を募集します！ 第1回ミートアップを一緒に盛り上げてくださるスピーカーを募集します。上記の通り初回開催として、「CNCFのAI Infraインフラとしての現在地を把握しよう」をテーマ、幅広いトピックをカバーするセッションを募集します。 上記に挙げた技術トピックに関する解説・検証実績、自社でのAI/ML基盤の運用事例、アップストリームへのコントリビューション経験など、大小問わず大歓迎です！ 「こんなテーマで話してみたい」「まだ検証段階だけど知見を共有したい」という方も、ぜひお気軽にご応募ください。 - 募集セッション枠: - 一般セッション（20〜30分程度） - ライトニングトーク（LT）（5〜10分程度） - 応募方法: 以下のGoogle Formより必要事項をご記入の上、ご応募ください。応募多数の場合はご講演いただけない場合があります。 - 応募URL: https://ocgroups.dev/cncf/group/bqd97by/event/7fu3gfg - 応募締め切り: 2026/8/28 おわりに AIや自律型エージェントがもたらす新しいパラダイムは、アプリケーションの作り方だけでなく、それを支えるインフラやプラットフォーム全体の設計、そして運用のあり方を根本から再定義しつつあります。これまでWebシステムの運用で私たちが培ってきたCloud Nativeの強みやアプローチを、この新しいAIというフロンティアにおいてどう進化させ、スケールさせていくのか。まさに今、その非常に面白い転換点にいるのではないでしょうか。 このAI Infra SIGは、最先端を追いかけるだけの場ではありません。国内のエンジニアやプラクティショナーが直面している課題や実践知を共有し体系化していく場になっていけば良いなと思っています。そしてCNCFやLinux Foundationのアップストリームへと還元を促進していけたら良いなとも思っています。 この刺激的な技術変革をコミュニティ一丸となって、ぜひ一緒に盛り上げ、創り上げていきましょう。 皆様からのプロポーザル、そしてミートアップへのご参加を、心よりお待ちしております！