El nucleo se encarga de repartir la carga entre procesadores si tienes activado el soporte para smp (symetric multiprocessing en el mismo, no tienen mucho que ver los flags de compilacion). Ni siquiera necesitas hacer nada distinto para compilar tu programa.

Si quieres realmente aprovechar programacion concurrente y multihilos, aprende a usar posix threads (pthreads). O alguna biblioteca similar. Ahi si te toca leer bastante y aprender sobre los problemas que genera la concurrencia y la sincronizacion, semaforos, mutexes y demas hierbas.