Оптимизация Java-приложений (Java performance optimization) — одна из главных тем многих семинаров, презентаций и лекций. Мало написать Java-приложение, надо сделать еще и так, чтобы оно работало быстро, эффективно использовало ресурсы системы и в полной мере использовало все достоинства и функционал, заложенные в Java-платформу.
Рекомендую вам четыре книги, которые очень помогают разобраться во внутреннем устройстве JVM, рассказывают о факторах, влияющих на производительность приложения и предлагают различные советы по оптимизации работы вашего Java-приложения.
Эти книги особенно полезны для Java-разработчиков финансовых приложений. Ведь в финансовых приложениях как никогда верно высказывание «время — деньги». Если приложение медленно работает или подтормаживает для выполнения какой-то фоновой задачи, например, сборки мусора, перекомиляции кода, когда требуется выставить заявку на рынок или обработать новые цены, может быть упущен важный момент и потери могут быть колоссальными и невосполнимыми.
Java Performance: The Definitive Guide

Автор Scott Oaks. Это, пожалуй, лучшее, что у нас было по настройкам производительности JVM до выхода четвертой книги в этом списке. Увы, книга написана в 2014 году, материал успел уже порядком устареть, так как даёт описание Java 7 и Java 8, в то время как актуальная версия Java сейчас (весна 2019 года) — Java 12.
Второе издание книги вышло в марте 2020 года. Так, что теперь эта книга — самое свежее что есть на рынке по теме производительности с описанием новшеств Java 8, Java 11 и следующих версий.
Java Performance

Тоже хорошая книга по теме оптимизации. Не так хороша, как «Java Performance: Definitive Guide», но все же — полезная. Написана аж в 2011 году.
Java Performance Companion

Так как предыдущая книга вышла в 2011 году, к ней понадобилось обновление, отражающее изменения в Java. Это обновление вышло в 2016 году и в основном посвящено новому сборщику мусора G1 GC, который в Java 8 был добавлен как опция, а в Java 9 включается по умолчанию.
Optimizing Java: Practical Techniques for Improving JVM Application Performance

Совсем новая книга (май 2018 года). Это самое свежее, что сейчас есть из книг по теме оптимизации производительности Java-приложений. Можно сказать это лучшая книга на сегодня на тему оптимизации. Авторы книги копают очень глубоко и подробно по всем темам, включая идею Mechanical Sympathy. В небольшую книгу не вместилось все, но даже то, что в книге есть, с лихвой хватит для введения в тему. Остальное можно добрать уже из презентаций и блогов.
На сайте Infoq.com есть интервью с авторами книги и её ревью.
Книга уже переведена на русский язык. Не уверен в качестве перевода, предпочитаю книгу читать в оригинале, чтобы мысли авторов не исказились при переводе человеком, который не в теме.
Другие источники
Разумеется, только книгами ограничиваться не следует. Выходят они достаточно редко, быстро устаревают, а также в книгах нельзя описать подробно все-все нюансы и особенности темы оптимизации Java-приложений.
Свежую информацию можно черпать из форумов, ведущих веб-сайтов по Java, Stack Overflow, блогов Java-экспертов ну и конечно поиск в Гугол.