大規模言語モデル　推論基盤エンジニア

3ヶ月
本採用と同条件

【Job Description】
Preferred Networks（PFN）では、大規模言語モデル（LLM）を中心としたマルチモーダルな基盤モデルの開発を進めています。基盤モデル開発に加え、エンタメ、科学計算、ロボットといった自社事業領域を強化する形での導入を目指した応用開発や、多様な産業への応用研究も行っています。
推論最適化チームのミッションは、自社開発のLLMを実運用に求められる品質・速度・コストで提供し、PFNのプロダクトやソリューション事業の拡大を技術の出口から支援することです。代表的な業務内容の例は以下の通りです。

▼LLMモデルの推論性能向上
量子化・推論エンジンの改善・パフォーマンスチューニングなどを通じて、モデルの出力品質を担保しながら、ターゲット環境におけるスループットの向上やレイテンシ／メモリ使用量の削減を行う

▼LLM推論エンジンの開発
SaaS環境やオンプレミス環境でのサービングに必要となる推論エンジンと、その周辺機能の開発およびインテグレーションを行う

▼LLMのカスタマイズ・デプロイの支援
案件ごとのニーズに応じてLLMモデルのカスタマイズを行うためのワークフローや、デプロイのパイプラインを整備する

▼OSSコミュニティ活動
vLLMをはじめとするLLM推論エンジンのエコシステムで、新機能の実装・バグフィックスのアップストリーム対応を行う。また、必要に応じて、関連イベントへの登壇や情報発信を行う

入社後に実際に担当いただく業務内容は、専門・ご経験を考慮のうえ決定します。

【Qualifications】
・コンピュータサイエンスまたは関連する技術分野における学位、または関連分野における実務経験
・LLM推論に関連する最先端の技術動向を主体的にキャッチアップし、専門性を深められること
・Pythonを使ったソフトウェア開発経験
・LLMの学習・推論に関する基本的な知識
・チーム内外のメンバーと協働しながら課題解決ができること
・英語のドキュメントが抵抗なく読めること

【Preferred Qualifications】
・CUDAアプリケーションの性能改善やデバッグの経験
・LLM推論エンジンのコア技術（演算のスケジュール制御やKV cacheの管理機構など）の開発経験
・LLM推論のパフォーマンス最適化の経験
・C++、Rustでのソフトウェア開発経験
・データサイエンス関連のOSSへのコントリビューション経験
・GPUクラスタ（k8s等）の利用経験
・MLの学習・評価を行うワークフローフレームワーク（Argo、MLFlow等）の利用経験
・ビジネスレベルの英語・日本語コミュニケーション能力

東京都千代田区大手町1-6-1大手町ビル
最寄駅：【最寄り駅】各線 大手町駅から徒歩1分
各線 東京駅から徒歩6分

特記事項：昇給あり　年2回の人事評価及び会社業績に基づいて決定
賞与あり　年2回の人事評価及び会社業績に基づいて決定
経験、業績、能力、貢献に応じて、当社規定により優遇

特記事項：専門労働型裁量労働制（みなし労働時間：8時間）もしくはフレックス制

土曜日、日曜日、国民の祝日、国民の休日、年末年始、当社規定による年次有給休暇制度（入社時26日付与）、育児休暇、慶弔休暇など

健康保険,厚生年金保険,労災保険,雇用保険
交通費：通勤費支給
諸手当：通勤手当、在宅勤務手当
特記事項：・確定拠出年金制度
・ラップトップPC購入補助
・定期健康診断実施

【受動喫煙防止情報】
屋内受動喫煙対策：対策あり

英語力を活かせる  即日スタート  駅から徒歩5分以内  土日祝日休み  交通費支給  社会保険完備  育児支援制度  退職金制度  賞与あり