시작하기
Verdict 파이프라인에 Weave 트레이싱을 사용 설정하려면 스크립트 시작 부분에서weave.init(project=...)를 호출하세요. project 인수를 사용해 team-name/project-name 형식으로 특정 W&B Teams 이름에 로깅하거나, project-name을 전달해 기본 팀 또는 entity에 로깅할 수 있습니다.
call 메타데이터 추적
Verdict 파이프라인 call에 맞춤형 메타데이터를 첨부하려면weave.attributes 컨텍스트 관리자를 사용하세요. 이 컨텍스트 관리자를 사용하면 파이프라인 run이나 평가 배치와 같은 특정 코드 블록에 태그를 지정해, 나중에 Weave UI에서 관련 트레이스를 필터링하고 그룹화할 수 있습니다.
트레이스
AI 평가 파이프라인의 트레이스를 중앙 데이터베이스에 저장하면 개발 환경과 프로덕션 환경 모두에서 유용합니다. 이러한 트레이스는 평가 워크플로를 디버깅하고 개선하는 데 도움이 되며, 유용한 데이터셋도 제공합니다. Weave는 Verdict 애플리케이션의 트레이스를 자동으로 캡처합니다. Verdict 라이브러리를 통해 발생하는 모든 Call을 추적하고 로깅하며, 여기에는 다음이 포함됩니다:Pipeline실행 stepJudgeUnit평가Layer변환- 풀링 오퍼레이션
- 맞춤형 유닛 및 변환
파이프라인 트레이싱 예시
다음 예시는 Weave가 중첩된 파이프라인 오퍼레이션을 트레이스하는 방식을 보여주며, 이를 통해 다단계 Verdict 파이프라인에서 각 step이 어떻게 캡처되는지 확인할 수 있습니다:- 메인
Pipeline실행. Layer내 각JudgeUnit평가.MeanPoolUnit집계 step.- 각 오퍼레이션의 타이밍 정보.
설정
weave.init()를 호출하면 Verdict 파이프라인에서 트레이싱이 자동으로 활성화됩니다. 이 인테그레이션은 Pipeline.__init__() 메서드를 패치해 모든 트레이스 데이터를 Weave로 전달하는 VerdictTracer를 주입하는 방식으로 작동합니다.
추가 설정은 필요하지 않습니다. Weave가 자동으로 다음을 수행합니다:
- 모든 파이프라인 오퍼레이션을 캡처합니다.
- 실행 시간을 추적합니다.
- 입력과 출력을 로깅합니다.
- 트레이스 계층 구조를 유지합니다.
- 동시 파이프라인 실행을 처리합니다.
맞춤형 트레이서와 Weave
애플리케이션에서 이미 맞춤형 Verdict 트레이서를 사용 중이라면, Weave의VerdictTracer도 함께 실행할 수 있으므로 인테그레이션 중 하나를 선택하지 않고 둘 다 사용할 수 있습니다:
Models 및 평가
여러 파이프라인 컴포넌트로 구성된 AI 시스템을 정리하고 평가하는 일은 까다로울 수 있습니다.weave.Model을 사용하면 프롬프트, 파이프라인 설정, 평가 매개변수와 같은 실험 세부 정보를 담아 체계적으로 정리할 수 있어, 서로 다른 반복 버전을 더 쉽게 비교할 수 있습니다.
다음 예제에서는 Verdict 파이프라인을 weave.Model로 래핑하는 방법을 보여줍니다:
평가
평가는 평가 파이프라인 자체의 성능을 측정하는 데 도움이 됩니다.weave.Evaluation 클래스를 사용하면 특정 작업이나 데이터셋에서 Verdict 파이프라인이 얼마나 잘 동작하는지 파악할 수 있습니다: