大規模言語モデル推論基盤エンジニア

株式会社Preferred Networks

正社員
東京都

募集要項

No.JN00490466

企業名: 株式会社Preferred Networks
職種: AIエンジニア・開発
雇用形態: 正社員
試用期間: 3ヶ月
業務内容: 【Job Description】
Preferred Networks（PFN）では、大規模言語モデル（LLM）を中心としたマルチモーダルな基盤モデルの開発を進めています。基盤モデル開発に加え、エンタメ、科学計算、ロボットといった自社事業領域を強化する形での導入を目指した応用開発や、多様な産業への応用研究も行っています。

推論最適化チームのミッションは、最先端のモデルと現実世界のプロダクトを結ぶ「架け橋」となることです。自社開発のLLMのポテンシャルを極限まで引き出し、実運用環境で求められる厳しい品質・速度・コスト要件を満たす形で最適化し提供することを通じて、PFNのプロダクトやソリューション事業の拡大を技術の出口から支援します。代表的な業務内容の例は以下の通りです。

▼LLMモデルの推論性能向上
量子化・推論エンジンの改善・パフォーマンスチューニングなどを通じて、モデルの出力品質を担保しながら、ターゲット環境におけるスループットの向上やレイテンシ／メモリ使用量の削減を行う

▼LLM推論エンジンの開発
SaaS環境やオンプレミス環境でのサービングに必要となる推論エンジンと、その周辺機能の開発およびインテグレーションを行う

▼LLMのカスタマイズ・デプロイの支援
案件ごとのニーズに応じてLLMモデルのカスタマイズを行うためのワークフローや、デプロイのパイプラインを整備する

▼OSSコミュニティ活動
vLLMをはじめとするLLM推論エンジンのエコシステムで、新機能の実装・バグフィックスのアップストリーム対応を行う。また、必要に応じて、関連イベントへの登壇や情報発信を行う

入社後に実際に担当いただく業務内容は、専門・ご経験を考慮のうえ決定します。

※ハイブリッド勤務（オフィス出社と在宅勤務を組み合わせての勤務）
応募条件: 【Qualifications】
・コンピュータサイエンスの知識や関心
　- コンピューターサイエンスのすべての分野への精通を目指し、常に最先端の技術を追いかけ続けていること
・Pythonを使ったソフトウェア開発経験
　- コンピューターアーキテクチャーを理解し、ソフトウェアの実効効率や、計算量を意識したプログラムの作成が出来ること
　- 商用環境・オンプレミス環境など、品質要件の高いソフトウェアの開発経験
・LLM推論フレームワークの利用経験
・LLM推論最適化に関する各種技術に対する理解
・LLM推論に関連する最先端の技術動向を主体的にキャッチアップし、専門性を深める意欲
・CUDAアプリケーションの実装・性能改善・デバッグの経験
・チーム内外のメンバーと協働しながら課題解決ができること
・英語のドキュメントが抵抗なく読めること
・既存フレームワークのコードや英語のドキュメントが抵抗なく読めること

【Preferred Qualifications】
・LLM推論エンジンのコア技術（演算のスケジュール制御やKV cacheの管理機構など）の開発経験
・商用環境や実際のユースケースにおけるLLM推論の性能測定・最適化の経験
・LLM推論に関連するOSSや、データサイエンス関連のOSSへのコントリビューション経験
・C++またはRustでのソフトウェア開発経験
・GPUクラスタ（Kubernetes等）の利用経験
・MLの学習・評価を行うワークフローフレームワーク（Argo、MLFlow等）の利用経験
・ビジネスレベルの英語・日本語コミュニケーション能力
勤務地: 東京都千代田区大手町1-6-1大手町ビル
最寄駅：【最寄り駅】各線大手町駅から徒歩1分
各線東京駅から徒歩6分
給与・報酬: 想定月収0円〜
昇給あり　年2回の人事評価及び会社業績に基づいて決定
賞与あり　年2回の人事評価及び会社業績に基づいて決定
経験、業績、能力、貢献に応じて、当社規定により優遇
※基本給及び固定残業代の金額及び内容については、オファー時に速やかに明示します
就業時間: 専門労働型裁量労働制（みなし労働時間：8時間）もしくはフレックス制
休日・休暇: 休日：土曜日、日曜日、国民の祝日、国民の休日、年末年始
当社規定による年次有給休暇制度（入社時26日付与）
育児休暇、慶弔休暇など
待遇・福利厚生: 交通費：通勤費支給
保険：健康保険,厚生年金保険,労災保険,雇用保険
諸手当：通勤手当、在宅勤務手当
特記事項：
・確定拠出年金制度
・ラップトップPC購入補助
・定期健康診断実施

■受動喫煙防止情報■
屋内の受動喫煙対策：対策あり
対策：禁煙
特記事項：無