Articles scientifiques
L’article suivant fournit des informations de référence sur les algorithmes qui sous-tendent les techniques d’optimisation des hyperparamètres utilisées dans Sweeps. Li, Lisha, et al. “Hyperband: A novel bandit-based approach to hyperparameter optimization.” The Journal of Machine Learning Research 18.1 (2017): 6765-6816.Expériences avec Sweeps
Les Reports W&B suivants présentent des projets qui explorent l’optimisation des hyperparamètres avec Sweeps.- Drought Watch Benchmark Progress
- Description : Développement de la référence de base et exploration des soumissions au benchmark Drought Watch.
- Tuning Safety Penalties in Reinforcement Learning
- Description : Examen d’agents entraînés avec différentes pénalités liées aux effets de bord sur trois tâches distinctes : création de motifs, suppression de motifs et navigation.
- Meaning and Noise in Hyperparameter Search with W&B Stacey Svetlichnaya
- Description : Comment distinguer le signal de la paréidolie (des motifs imaginaires) ? Cet article montre ce qu’il est possible de faire avec W&B et vise à encourager une exploration plus approfondie.
- Who is Them? Text Disambiguation with Transformers
- Description : Utilisation de Hugging Face pour explorer des modèles de compréhension du langage naturel.
- DeepChem: Molecular Solubility
- Description : Prédire les propriétés chimiques à partir de la structure moléculaire à l’aide de forêts aléatoires et de réseaux neuronaux profonds.
- Intro to MLOps: Hyperparameter Tuning
- Description : Découvrez pourquoi l’optimisation des hyperparamètres est importante et examinez trois algorithmes permettant d’automatiser le réglage des hyperparamètres de vos modèles de machine learning.
Guide pratique
Le guide pratique suivant présente comment résoudre des problèmes concrets avec W&B :- Sweeps avec XGBoost
- Description : comment utiliser Sweeps pour l’optimisation des hyperparamètres avec XGBoost.