プロンプトエンジニア 求人

Research Engineer, AI Monitoring

London, UK
正社員・契約社員
閲覧数:0

仕事内容

About Anthropic Anthropic’s mission is to create reliable, interpretable, and steerable AI systems. We want AI to be safe and beneficial for our users and for society as a whole. Our team is a quickly growing group of committed researchers, engineers, policy experts, and business leaders working together to build beneficial AI systems. About the role Our team builds, tests, deploys, and monitors the classifiers that block internal agents from taking dangerous actions. These classifiers run across RL, evals, and internal deployments, and are designed to catch things like sandbox escape attempts or exfiltration of sensitive data. When a classifier flags an action, it can block the action before the tool call runs, end the task, and alert a human. This is one layer of a defence-in-depth with several layers that reinforce each other: what our classifiers flag feeds into offline monitoring, and the findings from that go back into better classifiers and safer environment design. The work combines research and production engineering: ・ The research problem is building high recall and high precision classifiers to catch rare, novel, and sometimes adversarial behaviour. There are also several narrow research questions to answer - for example, how to deploy safety classifiers inside training environments without incentivising models to evade them. Some research also builds on the multi-stage designs described in our work on Claude Code auto mode and Constitutional Classifiers. ・ The engineering problem is shipping these classifiers into the critical path of research

求めるスキル

LLM AWS Rust

勤務条件

雇用形態 正社員・契約社員
勤務地 London, UK
リモートワーク 不可
Anthropic 公式採用ページ掲載求人

この求人に応募する

0日前に掲載

公式ページで応募する

※ 企業の公式採用ページへ移動します

人気求人

他の人気求人をチェック

求人一覧を見る

メールアドレスで無料会員登録

正しいメールアドレスを入力してください
※半角英数記6~40文字
パスワードは6文字以上で入力してください
利用規約、 プライバシーポリシー をご確認のうえ、「同意して登録する」を押してください。
すでにアカウントをお持ちの方

求職者ログイン

初めての方
掲載企業様の方はこちら

企業様 新規登録

求人掲載をご希望の企業様向けの登録フォームです
正しいメールアドレスを入力してください
※半角英数記6~40文字
パスワードは6文字以上で入力してください
すでにアカウントをお持ちの方

企業ログイン

初めての方
求職者の方はこちら

パスワードリセット

ご登録いただいたメールアドレスを入力してください。
パスワードリセット用のリンクをメールでお送りします。

正しいメールアドレスを入力してください
アカウントをお持ちの方

企業様 パスワードリセット

ご登録いただいたメールアドレスを入力してください。
パスワードリセット用のリンクをメールでお送りします。

正しいメールアドレスを入力してください
アカウントをお持ちの方

新しいパスワードを設定

新しいパスワードを入力してください。

※半角英数記6~40文字
パスワードは6文字以上で入力してください