プロンプトエンジニア 求人

Enforcement Analyst, Agentic Alignment

0万円 〜 0万円
Boston, MA; San Francisco, CA | Seattle, WA | New York City, NY | Washington, DC
正社員・契約社員
閲覧数:0

仕事内容

<div class="content-intro"><h2><strong>About Anthropic</strong></h2> <p>Anthropic’s mission is to create reliable, interpretable, and steerable AI systems. We want AI to be safe and beneficial for our users and for society as a whole. Our team is a quickly growing group of committed researchers, engineers, policy experts, and business leaders working together to build beneficial AI systems.</p></div><h2><strong>About the role</strong></h2> <p>Anthropic is an AI safety and research company working to build reliable, interpretable, and steerable AI systems. We want AI to be safe and beneficial for our customers and society as a whole. As an Enforcement Analyst focused on Agentic Alignment, you will play a crucial role in identifying and investigating harmful and unexpected behavior by models, and make enforcement decisions accordingly. You'll work closely with a suite of cross-functional teams, within and outside of Safeguards, including: Policy, Threat Intel, Engineering, Research, and Transparency. Your work will be essential in maintaining Anthropic's commitment to safe and beneficial AI as Claude takes on more autonomous work.</p> <p><strong><em>Important context for this role: In this position you may be exposed to and engage with explicit content spanning a range of topics, including those of a sexual, violent, or psychologically disturbing nature. There is also an on-call responsibility across the Policy and Enforcement teams.<br></em></strong></p> <h2><strong>Key responsibilities</strong></h2> <ul> <li>Review and investigate potential instances of Agentic Misalignment, working from transcripts, tool-use traces, and code&nbsp;</li> <li>Triage cases by severity and urgency and share through the appropriate channels</li> <li>Help operationalize review pipelines for agentic cases, translating leads from detection outputs and investigations into structured review workflows that scale</li> <li>Make enforcement decisions under the Usage Policy, applying it consistent

求めるスキル

Python AWS Rust

勤務条件

雇用形態 正社員・契約社員
勤務地 Boston, MA; San Francisco, CA | Seattle, WA | New York City, NY | Washington, DC
リモートワーク 不可
Anthropic 公式採用ページ掲載求人

この求人に応募する

0日前に掲載

公式ページで応募する

※ 企業の公式採用ページへ移動します

人気求人

他の人気求人をチェック

求人一覧を見る

メールアドレスで無料会員登録

正しいメールアドレスを入力してください
※半角英数記6~40文字
パスワードは6文字以上で入力してください
利用規約、 プライバシーポリシー をご確認のうえ、「同意して登録する」を押してください。
すでにアカウントをお持ちの方

求職者ログイン

初めての方
掲載企業様の方はこちら

企業様 新規登録

求人掲載をご希望の企業様向けの登録フォームです
正しいメールアドレスを入力してください
※半角英数記6~40文字
パスワードは6文字以上で入力してください
すでにアカウントをお持ちの方

企業ログイン

初めての方
求職者の方はこちら

パスワードリセット

ご登録いただいたメールアドレスを入力してください。
パスワードリセット用のリンクをメールでお送りします。

正しいメールアドレスを入力してください
アカウントをお持ちの方

企業様 パスワードリセット

ご登録いただいたメールアドレスを入力してください。
パスワードリセット用のリンクをメールでお送りします。

正しいメールアドレスを入力してください
アカウントをお持ちの方

新しいパスワードを設定

新しいパスワードを入力してください。

※半角英数記6~40文字
パスワードは6文字以上で入力してください