Ошибка Qsystem

Время от времени выходит данная ошибка.
Заметил, что если перед тем как запустить сервер Qsystem, запустить MySQL Workbench, сервер стартует нормально, но потом через неопределенное время виснет и появляются такие записи в логах. Как можно решить данную проблему?

Вам надо добавить параметр к строке соединеня:
allowPublicKeyRetrieval=true
или попробовать откобчить ssl:
useSSL=false

Типа такого:
jdbc:mysql://localhost:3306/Database_dbName?allowPublicKeyRetrieval=true&useSSL=false;

Может ли это быть связанно с новой системой шифрования паролей в mysql80?

Связано.

Может тогда не стоит его использовать?)