Preprint · 2021 · Open access
Many Objective Bayesian Optimization.
arXiv (Cornell University) · Published 8 July 2021
In brief
“Many Objective Bayesian Optimization.” is a 2021 preprint by Lucia Asencio-Martín and Eduardo C. Garrido‐Merchán, published in arXiv (Cornell University). OpenAlex counts 2 citations as of 19 November 2026. It is open access: the full text is free to read at arXiv (Cornell University).
- Citations
- 2
- Most cited in
- 2023 (2)
- References
- 27
- Authors
- 2
Abstract
Muchosescenarios reales requieren de la optimización de varios objetivos a la vez para la obtención de soluciones que representen el mejor equilibrio entre ellos y, según el escenario, estos objetivos pueden ser muy costosos de evaluar y el número de evaluaciones (posiblemente ruidosas) que podremos hacer será limitado. La optimización Bayesiana (BO) es una clase de métodos de optimización que, modelizando los objetivos con modelos probabilísticos subyacentes como los proceso Gaussianos (GPs), habilita la optimización de funciones cuya expresión analítica es desconocida. La BO multi-objetivo se encarga generalmente de la optimización de hasta tres objetivos pero, hasta donde alcanza nuestro conocimiento, no se ha desarrollado un algoritmo para la BO de muchos (más de tres) objetivos. Por ello, proponemos un algoritmo de BO de muchos objetivos basado en la detección y supresión de GPs que son redundantes por estar correlacionados. Mediante esta eliminación, evitamos la evaluación de objetivos de los que no se adquiere apenas información sobre la localización de los puntos óptimos. Al evitar esta evaluación, se puede ahorrar coste computacional o de recursos de diversa índole. Para la detección de objetivos redundantes proponemos una medida de similitud entre las distribuciones predictivas de los GPs. La medida de similitud es un modelo de suma ponderada donde se tienen en cuenta la distancia entre las medias predictivas, su correlación y la incertidumbre de la predicción. Usando esta medida proponemos un algoritmo de reducción de objetivos que suprime aquéllos que considera redundantes según el criterio de la medida de similitud. Integramos el algoritmo y la medida en Spearmint, una herramienta de software libre de optimización Bayesiana. Los experimentos de juguete, sintéticos y simulando un escenario real realizados sobre la medida de similitud y el algoritmo de optimización Bayesiana de muchos objetivos aportan evidencia empírica para apoyar la hipótesis de su utilidad en escenarios reales. En particular, probamos el algoritmo en el proceso de ajuste de hiperparámetros de una red neuronal en el que nos proponemos minimizar el error, el tiempo de ejecución y el tamaño de la misma. En este escenario, el tiempo y el tamaño son detectados como objetivos redundantes y uno de ellos puede ser reducido. En un escenario real, la no evaluación del tiempo o tamaño de una red neuronal profunda de gran tamaño puede implicar un ahorro de coste computacional, económico y medioambiental.
Cite this paper
Formatted from the catalogue record. Check names, capitals and page numbers against the paper before you submit.
APA 7
Asencio-Martín, L., & Garrido‐Merchán, E. C. (2021). Many Objective Bayesian Optimization. arXiv (Cornell University). https://arxiv.org/pdf/2107.04126
MLA 9
Asencio-Martín, Lucia, and Eduardo C. Garrido‐Merchán. “Many Objective Bayesian Optimization.” arXiv (Cornell University), 2021. https://arxiv.org/pdf/2107.04126.
Chicago
Asencio-Martín, Lucia and Eduardo C. Garrido‐Merchán. 2021. “Many Objective Bayesian Optimization.” arXiv (Cornell University). https://arxiv.org/pdf/2107.04126.
Harvard
Asencio-Martín, L. and Garrido‐Merchán, E. C. (2021) ‘Many Objective Bayesian Optimization.’, arXiv (Cornell University). Available at: https://arxiv.org/pdf/2107.04126.
IEEE
L. Asencio-Martín and E. C. Garrido‐Merchán, “Many Objective Bayesian Optimization.,” arXiv (Cornell University), 2021.
BibTeX
@misc{asenciomartin2021many,
title = {{Many Objective Bayesian Optimization.}},
author = {Asencio-Martín, Lucia and Garrido‐Merchán, Eduardo C.},
howpublished = {arXiv (Cornell University)},
year = {2021},
url = {https://arxiv.org/pdf/2107.04126}
}
Download for a reference manager: BibTeX (.bib) · RIS for Zotero, Mendeley and EndNote (.ris)
Topic and keywords
Physical Sciences › Computer Science › Computational Theory and Mathematics › Advanced Multi-Objective Optimization Algorithms
- multi-objective Bayesian optimization
- many-objective optimization
- Mentha spicata
- hyperparameter optimization
- neural network training
- noisy objective functions
- expensive function evaluations
- Pareto front approximation
Work with this paper
Most-cited papers in Computer Science
- ImageNet classification with deep convolutional neural networksAlex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton · Communications of the ACM · 2017 · 114,726 citations
- Long Short-Term MemorySepp Hochreiter, Jürgen Schmidhuber · Neural Computation · 1997 · 109,097 citations
- A Mathematical Theory of CommunicationClaude E. Shannon · Bell System Technical Journal · 1948 · 91,736 citations
- Deep learningYann LeCun, Yoshua Bengio, Geoffrey E. Hinton · Nature · 2015 · 90,226 citations
- Faster R-CNN: Towards Real-Time Object Detection with Region Proposal NetworksShaoqing Ren, Kaiming He, Ross Girshick and 1 more · IEEE Transactions on Pattern Analysis and Machine Intelligence · 2016 · 74,143 citations
Questions about this paper
How do I cite this paper in APA style?
Asencio-Martín, L., & Garrido‐Merchán, E. C. (2021). Many Objective Bayesian Optimization. arXiv (Cornell University). https://arxiv.org/pdf/2107.04126
How many times has this paper been cited?
2 times, according to OpenAlex on 19 November 2026. Google Scholar and Scopus count different sets of sources, so their numbers differ.
Is this paper free to read?
Yes. It is open access at arXiv (Cornell University): sign in and open the full text from this page.
Who wrote this paper?
Lucia Asencio-Martín, Eduardo C. Garrido‐Merchán.
Bibliographic data from OpenAlex (CC0), last checked 19 November 2026. ResearchGuru does not host this paper; once you are signed in, the links open it at the publisher or the repository that does.