【インタビュー】AI開発成功のカギはインフラ環境にアリ！東京エレクトロンデバイス「TAILES」がLLM開発までトータルサポート

――秋戸氏

東京エレクトロンデバイスは、半導体製品やITソリューション等を提供する「商社ビジネス」と、お客様の設計受託や自社ブランド商品の開発を行う「メーカー機能」を有する技術商社です。

私たちの所属するITソリューションの販売および保守・監視サービスなどを行うCN BUでは、海外企業のGPU関連やIT製品など、サーバーやストレージ、セキュリティネットワーク製品を取り扱っています。

――秋戸氏

CN BUにおけるAI事業は2019年から開始しました。AI開発に欠かせないGPUなどの販売だけでなく、海外製品を国内品質にして提供するなど、複合的な価値の提供を行っています。

――秋戸氏

AI/DLソリューションとしてはじめに取り扱いした製品は「Cerebras」です。「Cerebras」は積和演算を実行するコアが85万個搭載されている超高速アクセラレータです。NVIDIA A100と比べると約120倍のコア数となり、かなりハイスペックな製品です。

「Cerebras」の他にもお客様の環境規模に合わせるため、NVIDIA製品のラインナップを増やしました。AI開発をこれから始めるお客様やスタートアップ向けの製品から、大規模AIモデル開発も可能にする「NVIDIA DGXプラットフォーム」まで幅広いラインナップを提供します。

――中田氏

GPUなどの「インフラ環境」は、AIモデルの処理能力や精度を上げる為には欠かせません。例えば、ChatGPTなどの大規模言語モデルを開発する際には「言語モデル」と「学習データ」そして、大規模モデルの実行に耐えられる「インフラ環境」が必要です。

「言語モデル」や「学習データ」と同じくらい「インフラ環境」の整備はAI開発において重要なのですが、見落とされているケースも少なくありません。

――中田氏

インフラ環境を検証する場がないことが大きな理由の1つになっていると思います。そのため、システム構築を行う場合、AI開発に必要なモデルと学習データが必要なことは認識していますが、実行するモデルに必要なGPU能力、学習済みモデルなどを保存するために最適なストレージなど、それぞれの最適なインフラ環境の知識が不足している場合が多いです。

――中田氏

そのため、カタログに記載されている性能値上で良いと思いGPUを導入したら、結果として、過剰スペックやスペック不足が起きる可能性があります。

こういった課題を背景に、当社はインフラ環境の検証支援サービス「TAILES（タイレス）」をスタートしました。実際のお客様の要件に基づき検証を行うことで、スペックのミスマッチを防いだ最適なハードウェアの提案が可能です。

――秋戸氏

当社の「TAILES」は、お客様が自社オリジナルのAIを開発するにあたり、必要な技術支援を提供するサービスです。「TED AI Lab」にて、オンプレミスハードウェア環境での検証が可能です。

――秋戸氏

「TAILES」では、AI開発環境の検証スタート時から、当社のエンジニアがQA対応を行います。お客様のモデルを利用したサイジング支援を実施し、検証後のサポートも行っています。検証環境の提供をするだけでなく、AI開発の点でもしっかりと支援を行うため、これからAI開発を始めたいお客様にもご利用しやすいサービスだと考えております。

――中田氏

TED AI Labは2021年7月に開設しました。ラボではAIアクセラレータとして、NVIDIA DGX A100とCerebras CS-2を完備しています。

アクセラレータだけでなく、開発環境の性能をしっかりと発揮できるように、100G帯域を持つスイッチや約120TBのストレージも用意しており、ハイパフォーマンスが発揮できる環境です。

――中田氏

TED AI Labでは、想定しているモデルを開発するためにどういった機器や構成が必要なのか、何が課題となり得るか等、総合的に検討可能です。

TAILESはオンプレミスでの検証サービスです。GPUはオンプレミスとクラウドの選択肢がありますが、従量課金制のクラウドと比べて、決まった費用内で検証したいお客様からの要望にも対応できます。

各GPU環境はマシンリソースの利用やメンテナンス、データ管理の面でも特性が異なるため、まずはTAILESのオンプレ環境で実際に動かしてみて、どちらのGPU環境が自社AIに適しているか検討していただくのが良いと思います。また、お客様の機器を持ち込んでいただき、弊社ラボの機器と接続いただくことも可能です。

――中田氏

検証期間は最短で2週間から承っており、最長1か月間のハードウェア貸与を行っております。お客様のデータセットの持ち込みやリモートアクセスも可能です。

――秋戸氏

ChatGPTが注目されていることもあり、最近はLLM開発に「Cerebras」を検討してみたいというお声をいただきます。

当社のサービスは小規模から、ミッドレンジ、ハイエンドなAI開発、いずれの場合にも対応できるラインナップを持ち併せているので、スマートファクトリー化などこれからAI活用を始める製造業から創薬分野、スタートアップ、研究機関まで、幅広い業界で対応可能です。

――秋戸氏

これまでご説明した「TED AI Lab」を利用した検証サービス以外にも、NVIDIA GPU（A30/A100）を搭載したGPUサーバーのお貸出しサービスも新たに開始いたしました。ミッドレンジ、ハイエンドなAI開発の前に、まずはGPUを触ってみたい、小規模モデルで検証したいといったご要望にもお応えできるサービスですので、是非ご活用いただきたいですね。

――秋戸氏

ハードウェアのサポートだけではなく、人材育成など網羅的なサポートを通して、これからAI開発を始めるお客様をご支援してまいります。TED AI Labは見学可能ですのでぜひお気軽にお問い合わせください。