LLMサービングエンジンエンジニア

株式会社Preferred Networks

正社員
東京都

募集要項

No.JN00496488

企業名: 株式会社Preferred Networks
職種: MLエンジニア・開発
雇用形態: 正社員
試用期間: 3ヶ月
業務内容: 【職務内容】
MN-Core Lシリーズ向けLLMサービングエンジンの開発チームに加わるエンジニアを募集しています。

PFNでは、最新世代のMN-Core(TM)アーキテクチャおよびMN-Core Lシリーズの開発・活用を進めています。MN-Coreアーキテクチャはコンパイラによる事前スケジューリングを採用しており、プロセッサ制御の大部分を最適化しています。このため、コンパイラの品質がアクセラレータの性能に直接影響します。Lシリーズでは、LLM推論に必要な高帯域幅を実現するため、3D積層DRAM技術を採用しています。本LLMサービングエンジンは、コンパイラが生成したプログラム、ランタイム環境、およびDRAM上でのデータ処理を緊密に協調させることで、超低遅延なLLM推論を実現することを目的としています。

本ポジションでは、このサービスエンジンの開発に携わっていただきます。
▼具体的なソフトウェア開発業務としては以下が含まれます。
・LLM推論処理における実行制御とリクエストスケジューリングの実装
・高帯域幅DRAMを最大限に活用しつつ、プレフィックスキャッシュなどの有用な機能をサポートするためのKVキャッシュ管理の最適化
・コンパイラ・ランタイム・ハードウェア開発者との緊密な連携
・特定のワークロードやユースケースにおけるLLM推論性能を評価するためのベンチマークおよびシミュレーションの設計
・vLLMやSGLangなどの既存推論エンジンに関する調査

これらの主要業務に加え、ご自身の興味や適性に応じて、高性能コンピューティングシステムの設計・活用、量子化などの圧縮技術、下流タスクとの連携テスト、MN-Coreアーキテクチャ自体の設計検討など、より広範なプロジェクトにも関与していただくことも可能です。

【What makes this position appealing】
PFNでは、最先端のLLM推論アクセラレータ向けソフトウェアの開発に携わることができます。ハードウェア開発者と密接に連携しながら開発を進めることができる環境であり、世界最先端のコンピューティング技術を実社会で活用することに情熱を持つ方にとって、理想的な環境です。

【勤務地】
リモート勤務制度あり
ハイブリッド勤務（オフィス出社と在宅勤務を組み合わせての勤務）
応募条件: 【応募資格（必須）】
・大学学部レベルのコンピュータサイエンスについての基礎的な理解
・新興のLLM推論アクセラレータ技術に対する関心
・LLM推論に関する理論的・実践的な知識を有していること
・ハードウェア仕様が性能に与える影響を理解できること
・様々なワークロードシナリオとそれらが性能に及ぼす影響についての理解
・推論最適化に伴う各種トレードオフについての理解
・オープンソースのLLM推論エンジン（vLLM、SGLang、dynamo、llama.cppなど）に精通していること
・英語と日本語が混在する環境での業務に柔軟に対応できること

【応募資格（歓迎）】
・OSSのLLM推論エンジン（vLLM、SGLang、llama.cpp、dynamoなど）への貢献経験
・LLMのサービス提供に関する実務経験（ローカル環境および大規模環境での運用双方）
・LLMサービス提供の主要コンポーネントに関する知識（リクエストスケジューリング、KVキャッシュ管理、プレフィックスキャッシュ処理など）
・LLMサービス提供APIに関する知見（／chat／completion、／responses、／messagesなど）
・LLM応用技術への関心（コーディング支援エージェントなどの事例）
・ベンチマークテストやシミュレーションを通じたLLM推論性能評価に関する知識
・システムエンジニアリングの実務経験（パフォーマンス最適化、プロファイリング、メモリ管理、ストレージ、並行処理などの理解）
・システムプログラミング言語の使用経験（C／C++、Rust、Goなど）
・最新のLLM推論アクセラレータ技術に関する知見
・日本語の技術文書／ディスカッションを読み解く能力

【Portrait of a person】
・様々な分野への関心、新たな技術領域の知見獲得の意欲のある方
・同職種・他職種に関わらずリスペクトして一緒に楽しく働ける方
・強みを活かして、チームメンバと助け合える方
・周りの課題に対しても自分事として捉え課題解決を推進できる方
・様々な専門性を持つ人がいる環境で新しいことを吸収し、楽しめる方
勤務地: 東京都千代田区大手町1−6−1大手町ビル
最寄駅：【最寄り駅】各線大手町駅から徒歩1分
各線東京駅から徒歩6分
給与・報酬: 想定月収0円〜
昇給あり　年2回の人事評価及び会社業績に基づいて決定
賞与あり　年2回の人事評価及び会社業績に基づいて決定
【賃金】
経験、業績、能力、貢献に応じて、当社規定により優遇
※基本給及び固定残業代の金額及び内容については、オファー時に速やかに明示します
就業時間: 専門労働型裁量労働制（みなし労働時間：8時間）もしくはフレックス制
休日・休暇: 休日：土曜日、日曜日、国民の祝日、国民の休日、年末年始
当社規定による年次有給休暇制度（入社時26日付与）
育児休暇、慶弔休暇など
待遇・福利厚生: 交通費：通勤費支給
保険：健康保険,厚生年金保険,労災保険,雇用保険
諸手当：通勤手当、在宅勤務手当
特記事項：
・確定拠出年金制度
・ラップトップPC購入補助
・定期健康診断実施

■受動喫煙防止情報■
屋内の受動喫煙対策：対策あり
対策：禁煙
特記事項：無