Prueba con esto (es en delphi) pero en Builder las APIs serán iguales (o similares), digo yo
Código Delphi
[-]
var
Hwnd: Integer;
begin
Hwnd := FindWindow(nil, 'Mi titulo de la aplicacion');
if Hwnd <> 0 then
ShowMessage('Ya está ejecutandose')
else
Application.Title := 'Mi titulo de la aplicacion';
Un saludo