如何使用Claude 3.5 Sonnet API自動翻譯文章 (1) - 提示設計

前言

最近，我引入了Anthropic的Claude 3.5 Sonnet API來進行博客文章的多語言翻譯。在這個系列中，我將討論選擇Claude 3.5 Sonnet API的原因、提示設計方法，以及通過Python腳本實現API連接和自動化的方法。 這個系列由兩篇文章組成，您正在閱讀的是該系列的第一篇。

• 第1部分：Claude 3.5 Sonnet模型介紹和選擇理由、提示工程（本文）
• 第2部分：使用API編寫Python自動化腳本並應用

關於Claude 3.5 Sonnet

Claude 3系列模型根據模型大小提供Haiku、Sonnet和Opus版本。

圖片來源：Anthropic Claude API官方網站

根據韓國時間2024年6月21日，Anthropic發布了最新的語言模型Claude 3.5 Sonnet。根據Anthropic的聲明，它以與現有Claude 3 Sonnet相同的成本和速度提供超越Claude 3 Opus的推理性能，並且在寫作、語言推理、多語言理解和翻譯領域普遍被認為比競爭對手GPT-4具有優勢。

圖片來源：Anthropic主頁

（2024.10.31更新）2024年10月22日，Anthropic發布了Claude 3.5 Sonnet的升級版API（”claude-3-5-sonnet-20241022”）和Claude 3.5 Haiku。然而，由於後面將提到的問題，本博客目前仍在使用現有的”claude-3-5-sonnet-20240620” API。

為什麼選擇Claude 3.5進行文章翻譯

即使不使用Claude 3.5或GPT-4等語言模型，也存在Google翻譯或DeepL等現有商業翻譯API。儘管如此，我決定使用LLM進行翻譯的原因是，與其他商業翻譯服務不同，用戶可以通過提示設計向模型提供寫作目的或主要主題等額外的上下文信息或要求，而模型可以根據這些信息提供考慮上下文的翻譯。雖然DeepL或Google翻譯通常也提供出色的翻譯質量，但由於無法很好地把握文章主題或整體上下文的限制，在要求翻譯非日常對話的專業主題的長文時，相對而言翻譯結果可能會顯得不自然。特別是Claude，如上所述，在寫作、語言推理、多語言理解和翻譯領域被認為比競爭對手GPT-4相對更出色，而且在簡單測試時也顯示出比GPT-4更流暢的翻譯質量，因此我認為它適合用於翻譯本博客上的工程相關文章。

提示設計

提出請求時的基本原則

為了從語言模型獲得符合目的的滿意結果，需要提供適當的提示。提示設計可能看起來很複雜，但實際上，”如何有效提出請求”的方法無論對方是語言模型還是人類都沒有太大區別，從這個角度來看並不難。根據5W1H原則清楚地解釋當前情況和請求事項，如有必要，添加一些具體的例子也很好。雖然存在許多關於提示設計的技巧和方法，但大多數都源自於以下基本原則。

整體語氣

有報告稱，使用禮貌請求的語氣而不是高壓命令的語氣來編寫和輸入提示時，語言模型會產生更高質量的回應。通常在社會中向他人請求某事時，使用後者而不是前者的語氣時，對方更有可能認真執行所請求的任務，語言模型似乎也學習並模仿了這種人類的回應模式。

角色分配和情境說明（誰，為什麼）

首先，我給Claude 3.5分配了“技術領域專業翻譯員（professional technical translator）”的角色，並提供了有關用戶的上下文信息，即“主要撰寫數學、物理學和數據科學文章的工程博主”。

<role>You are a professional translator specializing in technical and scientific fields. \
Your client is an engineering blogger who writes mainly about math, physics \
(especially nuclear physics, electromagnetism, quantum mechanics, and quantum information theory), \
and data science for his Jekyll blog.</role>

傳達大框架的請求事項（什麼）

接下來，我要求將用戶提供的Markdown格式文本從{source_lang}翻譯成{target_lang}，同時保持格式。

<task>Please translate the provided <format>markdown</format> text from <lang>{source_lang}</lang> \
to <lang>{target_lang}</lang> while preserving the format.</task>

在調用Claude API時，提示中的{source_lang}和{target_lang}位置將通過Python腳本的f-string功能分別填入翻譯源語言和目標語言變量。

具體化要求和示例（如何）

對於簡單的任務，前面的步驟可能已經足夠獲得所需的結果，但對於複雜的任務，可能需要額外的解釋。

當要求條件複雜且有多個時，將每個項目列表化並簡潔地傳達比詳細敘述每個項目更能提高可讀性，並且更容易理解（無論是對人類還是語言模型）。此外，如果需要，提供示例也會有所幫助。 在這種情況下，添加了以下條件：

YAML front matter的處理

在為Jekyll博客上傳而用Markdown編寫的文章開頭的YAML front matter中，記錄了’title’、’description’、’categories’和’tags’信息。例如，這篇文章的YAML front matter如下：

---
title: Claude 3.5 Sonnet API로 포스트 자동 번역하는 법
description: >-
  최근 공개된 Claude 3.5 Sonnet 모델을 간략히 소개하고, 본 블로그 포스트의 다국어 번역 작업에 적용하기 위해 프롬프트를 디자인한 과정과 완성한 프롬프트 결과물을 공유한다.
  그리고 Anthropic으로부터 발급받은 API 키와 앞서 작성한 프롬프트를 적용하여 Python으로 번역 자동화 스크립트를 작성하고 활용하는 방법을 소개한다.
categories:
- Blogging
tags:
- Jekyll
- LLM
---

然而，在翻譯文章時，雖然標題（title）和描述（description）標籤需要多語言翻譯，但為了保持文章URL的一致性，保留類別（categories）和標籤（tags）名稱的英文原文更有利於維護。因此，我添加了以下指示，以確保除了’title’和’description’之外的標籤不被翻譯。由於Claude應該已經學習並了解YAML front matter的相關信息，這樣的解釋在大多數情況下應該足夠。

- <condition>please do not modify the YAML front matter except for the 'title' and 'description' tags, \
  under any circumstances, regardless of the language you are translating to.</condition> \n\n\

通過添加”under any circumstances, regardless of the language you are translating to”這樣的短語，強調無一例外地不要隨意修改YAML front matter中的其他標籤。

處理原文包含非源語言的情況

在用韓語撰寫原文時，當首次介紹某個概念的定義或使用某些專業術語時，經常會在括號內附上英文表達，例如”中子衰減（Neutron Attenuation）“。在翻譯這種表達時，有時會保留括號，有時又會省略括號內的英文，導致翻譯方式不一致的問題。為此，制定了以下詳細指南：

• 對於專業術語，
  • 當翻譯成日語等非羅馬字母基礎的語言時，保持”翻譯表達（英語表達）”的格式。
  • 當翻譯成西班牙語、葡萄牙語、法語等羅馬字母基礎的語言時，允許單獨使用”翻譯表達”或併用”翻譯表達（英語表達）”，讓Claude自主選擇更合適的方式。
• 對於專有名詞，無論以何種形式，原文拼寫都必須以某種形式保留在翻譯結果中。

- <condition>The original text provided may contain parts written in languages other than {source_lang}. This is one of two cases. \n\
  1. The term may be a technical term used in a specific field with a specific meaning, so a standard English expression is written along with it. \n\
  2. it may be a proper noun such as a person's name or a place name. \n\
  After carefully considering which of the two cases the given expression corresponds to, please proceed as follows:\n\
  <if>it is the first case, and the target language is not a Roman alphabet-based language, \
  please maintain the <format>[target language expression(original English expression)]</format> in the translation result as well.</if>\n\
    - <example>'중성자 감쇠(Neutron Attenuation)' translates to '中性子減衰（Neutron Attenuation）' in Japanese.</example>\n\
    - <example>'삼각함수의 합성(Harmonic Addition Theorem)' translates to '三角関数の合成（調和加法定理, Harmonic Addition Theorem）' </example>\n\
  <if>the target language is a Roman alphabet-based language, you can omit the parentheses if you deem them unnecessary.</if>\n\
    - <example>Both 'Röntgenstrahlung' and 'Röntgenstrahlung(X-ray)' are acceptable German translations for 'X선(X-ray)'. \
      You can choose whichever you think is more appropriate.</example>\n\
    - <example>Both 'Le puits carré infini 1D' and 'Le puits carré infini 1D(The 1D Infinite Square Well)' are acceptable \
      French translations for '1차원 무한 사각 우물(The 1D Infinite Square Well)'. You can choose whichever you think is more appropriate.</example>\n\
  <else>In the second case, the original spelling of the proper noun in parentheses must be preserved in the translation output in some form.</else> \n\
    - <example> '패러데이(Faraday)', '맥스웰(Maxwell)', '아인슈타인(Einstein)' should be translated into Japanese as \
      'ファラデー(Faraday)', 'マクスウェル(Maxwell)', and 'アインシュタイン(Einstein)'.\
      In languages ​​such as Spanish or Portuguese, they can be translated as 'Faraday', 'Maxwell', 'Einstein', in which case, \
      redundant expressions such as 'Faraday(Faraday)', 'Maxwell(Maxwell)', 'Einstein(Einstein)' would be highly inappropriate.</example>\
  </condition>\n\n

處理連接到其他文章的鏈接

一些文章包含連接到其他文章的鏈接，在測試階段，當沒有為此提供具體指示時，經常出現將URL的路徑部分也視為需要翻譯的對象而更改，導致內部鏈接失效的問題。通過在提示中添加以下句子解決了該問題：

- <condition><if>the provided text contains links in markdown format, \
  please translate the link text and the fragment part of the URL into {target_lang}, \
  but keep the path part of the URL intact.</if> \n\
  - <example> the German translation of '[중성자 상호작용과 반응단면적]\
    (/posts/Neutron-Interactions-and-Cross-sections/#단면적cross-section-또는-미시적-단면적microscopic-cross-section)' \
    would be '[Neutronenwechselwirkungen und Wirkungsquerschnitte](/posts/Neutron-Interactions-and-Cross-sections/\
    #wirkungsquerschnitt-cross-section-oder-mikroskopischer-wirkungsquerschnitt-microscopic-cross-section)'.</example></condition> \n\n\

僅輸出翻譯結果作為回應

最後，提出以下句子，要求在回應時不添加其他話語，僅輸出翻譯結果：

<important>In any case, without exception, the output should contain only the translation results, without any text such as \
"Here is the translation of the text provided, preserving the markdown format:" or something of that nature!!</important>

額外的提示設計技巧

然而，與向人類請求任務不同，對於語言模型，還存在一些特別適用的額外技巧。 雖然網上有許多有用的資料，但以下是一些可以普遍有效使用的幾個代表性技巧： 主要參考了Anthropic官方文檔的提示工程指南。

使用XML標籤進行結構化

事實上，這種方法在前面已經一直在使用。對於包含多個上下文、指示、格式和示例的複雜提示，適當使用<instructions>、<example>、<format>等XML標籤可以極大地幫助語言模型準確解釋提示並產生高質量的、符合意圖的輸出。GENEXIS-AI/prompt-gallery GitHub倉庫中很好地整理了在編寫提示時有用的XML標籤，建議參考。

逐步推理（CoT，chain of thinking）技巧

對於需要相當程度推理的任務，如數學問題解決或複雜文檔編寫，引導語言模型分步思考問題可以大大提高性能。但是，這種情況下可能會增加回應延遲時間，而且並非所有任務都適用這種技巧，需要注意。

提示鏈接（prompt chaining）技巧

在需要執行複雜任務的情況下，單一提示可能無法充分應對。在這種情況下，可以考慮從一開始就將整個工作流程分為多個步驟，為每個步驟提供專門的提示，並將前一步驟獲得的回應作為下一步驟的輸入。這種技巧被稱為提示鏈接（prompt chaining）。

預先填寫回應的開頭部分

在輸入提示時，通過預先提供回應內容的開頭部分，並要求繼續完成後續回答，可以跳過不必要的問候語等開場白，或強制以XML、JSON等特定格式回應。對於Claude API，在調用時除了提交User消息，還可以同時提交Assistant消息來使用這種技巧。

防止偷懶（2024.10.31. 萬聖節補丁）

自從首次撰寫這篇文章以來，雖然中間經過了一兩次輕微的提示改進和指示具體化，但在四個月內應用這個自動化系統時並沒有遇到重大問題。

然而，從韓國時間2024年10月31日晚上6點左右開始，當委託翻譯新撰寫的文章時，持續出現只翻譯文章開頭’TL;DR’部分後就任意中斷翻譯的異常現象。

關於該問題的預想原因和解決方法，我在另一篇文章中進行了討論，請參考該文。

完成的提示

經過上述步驟的提示設計結果如下：

<role>You are a professional translator specializing in technical and scientific fields. \
Your client is an engineering blogger who writes mainly about math, physics \
(especially nuclear physics, electromagnetism, quantum mechanics, and quantum information theory), \
and data science for his Jekyll blog.</role> The customer's request is as follows:\n\n \
<task>Please translate the provided <format>markdown</format> text from <lang>{source_lang}</lang> \
to <lang>{target_lang}</lang> while preserving the format.</task> \
In the provided markdown format text, \n\
  - <condition>please do not modify the YAML front matter except for the 'title' and 'description' tags, \
  under any circumstances, regardless of the language you are translating to.</condition> \n\n\
  - <condition>The original text provided may contain parts written in languages other than {source_lang}. This is one of two cases. \n\
    1. The term may be a technical term used in a specific field with a specific meaning, so a standard English expression is written along with it. \n\
    2. it may be a proper noun such as a person's name or a place name. \n\
    After carefully considering which of the two cases the given expression corresponds to, please proceed as follows:\n\
    <if>it is the first case, and the target language is not a Roman alphabet-based language, \
    please maintain the <format>[target language expression(original English expression)]</format> in the translation result as well.</if>\n\
      - <example>'중성자 감쇠(Neutron Attenuation)' translates to '中性子減衰（Neutron Attenuation）' in Japanese.</example>\n\
      - <example>'삼각함수의 합성(Harmonic Addition Theorem)' translates to '三角関数の合成（調和加法定理, Harmonic Addition Theorem）' </example>\n\
    <if>the target language is a Roman alphabet-based language, you can omit the parentheses if you deem them unnecessary.</if>\n\
      - <example>Both 'Röntgenstrahlung' and 'Röntgenstrahlung(X-ray)' are acceptable German translations for 'X선(X-ray)'. \
        You can choose whichever you think is more appropriate.</example>\n\
      - <example>Both 'Le puits carré infini 1D' and 'Le puits carré infini 1D(The 1D Infinite Square Well)' are acceptable \
        French translations for '1차원 무한 사각 우물(The 1D Infinite Square Well)'. You can choose whichever you think is more appropriate.</example>\n\
    <else>In the second case, the original spelling of the proper noun in parentheses must be preserved in the translation output in some form.</else> \n\
      - <example> '패러데이(Faraday)', '맥스웰(Maxwell)', '아인슈타인(Einstein)' should be translated into Japanese as 'ファラデー(Faraday)', 'マクスウェル(Maxwell)', and 'アインシュタイン(Einstein)'.\
        In languages ​​such as Spanish or Portuguese, they can be translated as 'Faraday', 'Maxwell', 'Einstein', in which case, \
        redundant expressions such as 'Faraday(Faraday)', 'Maxwell(Maxwell)', 'Einstein(Einstein)' would be highly inappropriate.</example>\
    </condition>\n\n\
  - <condition><if>the provided text contains links in markdown format, \
    please translate the link text and the fragment part of the URL into {target_lang}, \
    but keep the path part of the URL intact.</if> \n\
    - <example> the German translation of '[중성자 상호작용과 반응단면적]\
      (/posts/Neutron-Interactions-and-Cross-sections/#단면적cross-section-또는-미시적-단면적microscopic-cross-section)' \
      would be '[Neutronenwechselwirkungen und Wirkungsquerschnitte](/posts/Neutron-Interactions-and-Cross-sections/\
      #wirkungsquerschnitt-cross-section-oder-mikroskopischer-wirkungsquerschnitt-microscopic-cross-section)'.</example></condition> \n\n\
<important>In any case, without exception, the output should contain only the translation results, without any text such as \
"Here is the translation of the text provided, preserving the markdown format:" or something of that nature!!</important>

延伸閱讀

繼續閱讀第2部分