大規模言語モデル　事後学習エンジニア

株式会社Preferred Networks

正社員
東京都

募集要項

No.JN00470434

企業名: 株式会社Preferred Networks
職種: オープン・Web・パッケージソフト開発プログラマー
雇用形態: 正社員
試用期間: 3ヶ月
業務内容: 【Job Description】
Preferred Networksでは大規模言語モデル（LLM）を中心としたマルチモーダルな基盤モデルの開発を進めています。LLM・生成AIの基盤モデル開発に加え、エンタメ、科学計算、ロボットといった自社事業領域を強化するための応用開発や、多様な産業への応用研究も行っています。

事後学習チームのミッションは「基盤モデルが持つ能力を極限まで高めること」です。LLMは主に事前学習と事後学習の2つに分けて開発されます。事前学習は大量の計算資源を必要としますが、その真価を発揮させるためには事後学習が欠かせません。事後学習では、人が実務で便利に使用するための様々な能力を高めます。具体的には有用性・正確性・安全性といった観点から、人間にとって好ましい応答を生成するようにしたり（アラインメント）、応答の前に推論を行うことができるようにしたり（推論能力の獲得）、基盤モデルの外にある様々なツールを使いこなすようにしたり（エージェンティックツール利用）と、その取り組みは多岐にわたります。

大規模言語モデル - 事後学習エンジニアは、事前学習されたモデルに事後学習を行い実用化に必要なモデルを作り上げるための研究開発に取り組みます。最先端の事後学習手法・高品質なデータ合成手法・ベンチマークおよびその構築手法について、既存研究の調査と実装、新規手法の研究開発まで幅広く取り組んでいただきます。またLLMを利用したプロダクトや他ドメインに特化したプロジェクトとも密接に連携し、大規模言語モデルの産業応用を推し進めていただきます。

【業務例】
・基盤モデルの性能をさらに向上させるような事後学習手法の研究開発
・社内外からの様々な用途・要望に対応できるような、高品質かつスケールするデータ生成手法および収集・品質管理方法の研究開発
・基盤モデルの能力を測るためのベンチマークの調査および新規ベンチマークの人手または自動での構築
・LLMを利用したプロダクト開発や、各ドメインに特化したLLM開発プロジェクトとの連携など

実際の業務はこれに限定されるものではありません。入社後に実際にご担当いただく業務内容は、専門的知識・経験を考慮のうえ決定します。
我々は最高水準の大規模言語モデルを開発することを目指しています。その開発に携わりたい方、熱意のある方のご応募をお待ちしています。

※ハイブリッド勤務（オフィス出社と在宅勤務を組み合わせての勤務）
応募条件: 【Qualifications】
・コンピュータサイエンスの知識や関心
　- コンピューターサイエンスのすべての分野への精通を目指し、常に最先端の技術を追いかけ続けていること
　- 特に、機械学習または自然言語処理に関する研究または実務の経験および実績
・Pythonを使ったソフトウェア開発経験
　- コンピューターアーキテクチャーを理解し、ソフトウェアの実効効率や、計算量を意識したプログラムの作成が出来ること
・数学、自然科学（物理、化学など）に関する、大学卒業程度の知識（もしくは学習により習得可能なこと）
・チームでの課題解決の経験

【Preferred Qualifications】
・公開されているフロンティアモデルの事後学習手法・データ生成手法・ベンチマーク手法を継続して追いかけていること
・広く利用されている基本的な事後学習手法（SFT／DPO／GRPO／OPDなど）に対する理解
・広く利用されている基本的なベンチマークやその測定方法に対する理解
・大規模言語モデルの事後学習経験
　- 分散学習フレームワーク（FSDP、DeepSpeed）やより高位の学習フレームワーク（TRL、slime）を使った開発経験
　- データ生成、学習、評価までのパイプラインの構築経験
・大規模言語モデルの学習データセットやベンチマークなどの作成経験
・機械学習OSSへのコントリビューション経験
・プログラミング競技コンテスト、ゲームAIコンテスト、データ分析コンテスト（Kaggleなど）などの実績・経験
・研究に対する優れた実績
・開発プロジェクトにおける3名以上のチームのリーダーシップ経験

【その他の条件／Other conditions】
業務内容の一部として、プロジェクトにより従事条件が定められる案件が含まれる場合があります。
勤務地: 東京都千代田区大手町1-6-1大手町ビル
最寄駅：【最寄り駅】各線大手町駅から徒歩1分
各線東京駅から徒歩6分
給与・報酬: 想定月収0円〜
昇給あり　年2回の人事評価及び会社業績に基づいて決定
賞与あり　年2回の人事評価及び会社業績に基づいて決定
経験、業績、能力、貢献に応じて、当社規定により優遇
※基本給及び固定残業代の金額及び内容については、オファー時に速やかに明示します
就業時間: 専門労働型裁量労働制（みなし労働時間：8時間）もしくはフレックス制
休日・休暇: 休日：土曜日、日曜日、国民の祝日、国民の休日、年末年始
当社規定による年次有給休暇制度（入社時26日付与）
育児休暇、慶弔休暇など
待遇・福利厚生: 交通費：通勤費支給
保険：健康保険,厚生年金保険,労災保険,雇用保険
諸手当：通勤手当、在宅勤務手当
特記事項：
【福利厚生】
・確定拠出年金制度
・ラップトップPC購入補助
・定期健康診断実施

■受動喫煙防止情報■
屋内の受動喫煙対策：対策あり
対策：禁煙
特記事項：無