Resolvi o problema da seguinte forma, realmente Qt 5 e Cmake muda bastante em relação a Qt4 e Cmake, mas depois de se entender as mudanças, verifiquei que ficou até mais simples, segue uma configuração minima do Cmake para um projeto em Qt 5 com um arquivo main.cpp e um form projetado no Qt Designer, mais um arquivo de recursos(qt resource file):
project(projeto)
cmake_minimum_required(VERSION 2.8.9)
set(CMAKE_AUTOMOC ON)
set(CMAKE_INCLUDE_CURRENT_DIR ON)
find_package(Qt5Widgets 5.2.1 REQUIRED)
find_package(Qt5Sql 5.2.1 REQUIRED)
find_package(Qt5Core 5.2.1 REQUIRED )
find_package(Qt5Gui 5.2.1 REQUIRED )
find_package(Qt5PrintSupport 5.2.1 REQUIRED)
set(CMAKE_CXX_FLAGS "${CMAKE_CXX_FLAGS} ${Qt5Widgets_EXECUTABLE_COMPILE_FLAGS}")
set(CMAKE_BUILD_TYPE "Debug")
include_directories(${QT_INCLUDES} ${CMAKE_CURRENT_BINARY_DIR})
set(projeto_SRCS main.cpp TelaPrincipal.cpp )
qt5_wrap_ui(projeto_SRCS TelaPrincipalParent.ui )
QT5_ADD_RESOURCES(projeto_SRCS icones.qrc )
add_executable(projeto ${projeto_SRCS})
qt5_use_modules(projeto Widgets Core Gui Sql PrintSupport)
Abaixo, alguns links sobre Qt 5 e Cmake e migração de Qt 4 para Qt 5.
http://www.kdab.com/using-cmake-with-qt-5/
http://qt-project.org/wiki/Transition_from_Qt_4.x_to_Qt5
http://qt-project.org/doc/qt-5.0/qtdoc/cmake-manual.html
http://www.kdab.com/porting-from-qt-4-to-qt-5/
https://www.kdab.com/modern-cmake-with-qt-and-boost/
http://qt-project.org/forums/viewthread/28456
http://qt-project.org/doc/qt-5/cmake-manual.html
http://www.kdab.com/automated-porting-from-qt-4-to-qt-5/