生成AIサービス¶

本システムでは、大規模言語モデル（LLM）による生成AIサービスを提供しています。APIはOpenAI互換であるため、OpenAI SDKや互換ツールの接続先を差し替えるだけで、お手元の端末やアプリケーションから利用できます。

利用できるモデル¶

パラメータ数は総パラメータ数です。いずれもMoE（Mixture of Experts）モデルであるため、1トークンの生成に実際に使われるパラメータ数はこれより少なくなります。コンテキスト長は、本サービスで入力に指定できるトークン数の上限であり、モデル本来の上限とは異なる場合があります。

いずれのモデルも、推論（reasoning）とFunction Callingに対応しています。

APIキーの発行¶

APIキーは、理究ポータルで発行します。

理究ポータル

ポータルにログインし、画面上部のAPIキーを選択します。新しいキーを発行のフォームで課題IDを選び、発行をクリックします。

APIキーは課題ごとに1つ発行できます。APIの利用量は、キーの発行元の課題に計上されます。複数の課題に所属している場合は、利用したい課題のキーを使用してください。

curlでの利用¶

発行したAPIキーを環境変数に設定します。OPENAI_API_KEYは、OpenAI SDKや多くの互換ツールが既定で参照する環境変数名です。

export OPENAI_API_KEY=API_KEY

利用できるモデルの一覧を取得します。

curl https://api.rikyu.r-ccs.riken.jp/v1/models \
    -H "Authorization: Bearer $OPENAI_API_KEY"

テキストを生成します。modelには利用するモデル名を指定します。

curl https://api.rikyu.r-ccs.riken.jp/v1/chat/completions \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    -H "Content-Type: application/json" \
    -d '{
      "model": "qwen3.6-35b",
      "messages": [
        {"role": "user", "content": "スーパーコンピュータとは何ですか。"}
      ]
    }'

生成結果を逐次受け取る場合は、streamにtrueを指定します。

curl https://api.rikyu.r-ccs.riken.jp/v1/chat/completions \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    -H "Content-Type: application/json" \
    -d '{
      "model": "qwen3.6-35b",
      "messages": [
        {"role": "user", "content": "スーパーコンピュータとは何ですか。"}
      ],
      "stream": true
    }'

Pythonでの利用¶

OpenAIのPythonライブラリをインストールします。

pip install openai

base_urlにエンドポイント、api_keyに発行したAPIキーを指定します。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.rikyu.r-ccs.riken.jp/v1",
    api_key=os.environ["OPENAI_API_KEY"],
)

response = client.chat.completions.create(
    model="qwen3.6-35b",
    messages=[
        {"role": "user", "content": "スーパーコンピュータとは何ですか。"},
    ],
)

print(response.choices[0].message.content)

生成結果を逐次受け取る場合は、stream=Trueを指定します。

stream = client.chat.completions.create(
    model="qwen3.6-35b",
    messages=[
        {"role": "user", "content": "スーパーコンピュータとは何ですか。"},
    ],
    stream=True,
)

for chunk in stream:
    content = chunk.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

OpenAI互換アプリケーションでの利用¶

Cline（Visual Studio Codeの拡張機能）のように、接続先とAPIキーを設定できるアプリケーションであれば、そのまま利用できます。設定項目は次のとおりです。

項目名はアプリケーションによって異なりますが、接続先（base URL）とAPIキー、モデル名を設定できるものであれば同様に利用できます。

注意事項¶

• 1回のリクエストで生成されるトークン数の上限（max_tokens）は、指定しない場合32,768です。長い入力を与える場合は、入力とmax_tokensの合計がモデルのコンテキスト長を超えないようにmax_tokensを調整してください。超えるとエラー（HTTP 400）になります。
• リクエストボディのサイズ上限は32 MBです。
• リクエストのタイムアウトは600秒です。
• 公開しているのは/v1配下のパスのみです。

利用料金¶

早期アクセスフェーズ2の期間中、生成AIサービスの利用は無料です。

はじめにに記載の利用料金（300円/GPU時間）は、Slurmで実行する計算ジョブに対するものであり、生成AIサービスの利用は対象外です。APIの利用量は、理究ポータルの利用量のページで確認できます。