AI Safety Fundamentals: Alignment

83 Afleveringen

1. Constitutional AI Harmlessness from AI Feedback

   Gepubliceerd: 19-7-2024
2. Problems and Fundamental Limitations of Reinforcement Learning from Human Feedback

   Gepubliceerd: 19-7-2024
3. Illustrating Reinforcement Learning from Human Feedback (RLHF)

   Gepubliceerd: 19-7-2024
4. Chinchilla’s Wild Implications

   Gepubliceerd: 17-6-2024
5. Deep Double Descent

   Gepubliceerd: 17-6-2024
6. Intro to Brain-Like-AGI Safety

   Gepubliceerd: 17-6-2024
7. Eliciting Latent Knowledge

   Gepubliceerd: 17-6-2024
8. Toy Models of Superposition

   Gepubliceerd: 17-6-2024
9. Least-To-Most Prompting Enables Complex Reasoning in Large Language Models

   Gepubliceerd: 17-6-2024
10. Discovering Latent Knowledge in Language Models Without Supervision

    Gepubliceerd: 17-6-2024
11. ABS: Scanning Neural Networks for Back-Doors by Artificial Brain Stimulation

    Gepubliceerd: 17-6-2024
12. Two-Turn Debate Doesn’t Help Humans Answer Hard Reading Comprehension Questions

    Gepubliceerd: 17-6-2024
13. Imitative Generalisation (AKA ‘Learning the Prior’)

    Gepubliceerd: 17-6-2024
14. An Investigation of Model-Free Planning

    Gepubliceerd: 17-6-2024
15. Low-Stakes Alignment

    Gepubliceerd: 17-6-2024
16. Gradient Hacking: Definitions and Examples

    Gepubliceerd: 17-6-2024
17. Empirical Findings Generalize Surprisingly Far

    Gepubliceerd: 17-6-2024
18. Compute Trends Across Three Eras of Machine Learning

    Gepubliceerd: 13-6-2024
19. Worst-Case Thinking in AI Alignment

    Gepubliceerd: 29-5-2024
20. Public by Default: How We Manage Information Visibility at Get on Board

    Gepubliceerd: 12-5-2024