AI Safety Fundamentals: Alignment

83 Afleveringen

1. Is Power-Seeking AI an Existential Risk?

   Gepubliceerd: 13-5-2023
2. Where I Agree and Disagree with Eliezer

   Gepubliceerd: 13-5-2023
3. Supervising Strong Learners by Amplifying Weak Experts

   Gepubliceerd: 13-5-2023
4. Measuring Progress on Scalable Oversight for Large Language Models

   Gepubliceerd: 13-5-2023
5. Least-To-Most Prompting Enables Complex Reasoning in Large Language Models

   Gepubliceerd: 13-5-2023
6. Summarizing Books With Human Feedback

   Gepubliceerd: 13-5-2023
7. Takeaways From Our Robust Injury Classifier Project [Redwood Research]

   Gepubliceerd: 13-5-2023
8. AI Safety via Debatered Teaming Language Models With Language Models

   Gepubliceerd: 13-5-2023
9. High-Stakes Alignment via Adversarial Training [Redwood Research Report]

   Gepubliceerd: 13-5-2023
10. AI Safety via Debate

    Gepubliceerd: 13-5-2023
11. Robust Feature-Level Adversaries Are Interpretability Tools

    Gepubliceerd: 13-5-2023
12. Introduction to Logical Decision Theory for Computer Scientists

    Gepubliceerd: 13-5-2023
13. Debate Update: Obfuscated Arguments Problem

    Gepubliceerd: 13-5-2023
14. Discovering Latent Knowledge in Language Models Without Supervision

    Gepubliceerd: 13-5-2023
15. Feature Visualization

    Gepubliceerd: 13-5-2023
16. Toy Models of Superposition

    Gepubliceerd: 13-5-2023
17. Understanding Intermediate Layers Using Linear Classifier Probes

    Gepubliceerd: 13-5-2023
18. Acquisition of Chess Knowledge in Alphazero

    Gepubliceerd: 13-5-2023
19. Careers in Alignment

    Gepubliceerd: 13-5-2023
20. Embedded Agents

    Gepubliceerd: 13-5-2023