El problema suele estar relacionado con una instalación incorrecta del controlador.
Para su correcta instalación, primero hay que prestar atención a los siguientes aspectos:

• Antes de comenzar la grabación, quita todos los dispositivos conectados por USB (con excepción del ratón y del teclado) que no necesites durante la grabación, a fin de evitar conflictos.
• Para las grabaciones analógicas prueba otra conexión por USB de tu PC. 
• No utilices un hub USB. 
• Conecta el transformador de vídeo USB directamente a tu PC (sin un alargador de USB). 
• Si has utilizado hasta el momento las entradas frontales de tu PC, conecta el transformador de vídeo con una interfaz USB de la parte posterior.
• Instala las versiones actualizadas del driver de tu transformador de vídeo USB, que podrás obtener aquí:

Transformador de vídeo (Negro)
Transformador de vídeo (Rojo)
Transormador de vídeo (Premium)

Sigue estos pasos:

1. Primero, guarda el archivo en tu PC; luego, extrae todas las carpetas en una carpeta de tu PC.
2. Para la instalación, cierra todos los programas de protección de tu PC (firewall, software antivirus).
3. Ejecuta el archivo "setup.exe" desde la carpeta seleccionada. Ya debería estar instalado el driver. Si tu PC ya tiene los drivers, selecciona primero la opción "Remove" o "Quitar" y luego reinicia la instalación.
4. Ejecuta también el programa como administrador y restablécelo a la configuración estándar. Para ello ve al Menú "Archivo" > "Configuración..." y selecciona la opción "Restablecer valores estándar de la configuración del programa".
5. Haz clic en el botón "Vista ampliada" y activa la opción "Optimizar para equipos antiguos o de bajo rendimiento". 
6. Intenta volver a realizar la grabación.