Da ist bei deinen System was oberfaul, DV-AVI muss ruckfrei abgespielt werden, sogar mit deiner Graka, die sicher für AVCHD oder HDV nicht geeignet ist, aber bei diesen SD Format muss es funktionieren.
Was hast du für eine Versionsnummer?

NACHTRAG:
1.UPDATE
2.Oben schreibst du 3500Serie und jetzt 4350, was soll das!
Diese Graka (4350) ist für HD gänzlich ungeeignet!!
ATI 38xx, 48xx, 58xx min. 512MB
NVIDIA:9600GT, 9800GT, GT250 min.512MB
3. Und schon wieder, du schreibst oben von DV-AVI und nun AVCHD, klipp und klar: Bei welchen Format ruckelt es, auch bei DV-AVI?
4.Woher hast du diese Empfehlung mit WMV, das ist doch reiner Mist!
5.Was willst du machen, DVD, BluRay, AVCHD DVD oder nur Export für Softwareplayer?

NACHTRAG2: Zu 2. Sieh dir die Busbreite an, 256Bit sollen es sein, deine hat 64 Bit. das kannst du vergessen.
Zu 4+5. Also es geht um SD Material, dann bleib auf SD, wenn es sich um DV-AVI Material handelt bleib auf DV-AVI, auch zum Archivieren, bleib dabei und konvertiere nicht umher, du hast nur Verlust, bleib auch bei deiner Auflösung, SD bleibt von der Quali SD, auch wenn du es auf HD hochscallierst.
Beim HD Material solltest du dir einen Softwareplayer (TotalMediaThetre 3) suchen der das abspielen kann und zwar AVCHD DVD ISO oder BluRay ISO oder aber du verwendest den WDTV, das ist ein Hardwareplayer der über externe Festplatten abspielt, den kannst du dann an deine Beamer anstecken und in FullHD, wenn der Beamer das kann, was ich bezweifle, abspielen.
NACHTRAG3: Ok, 4850 ist einmal gut und jetzt noch den neuesten Treiber von der ATI Seite, nicht den Treiber der bei der Karte dabei war, der ist uralt, das funktioniert mit der 48xx Serie erst seit ca.2 Monate, vorher gab es immer Treiberprobleme.
Player sind keine Videoschnittsoftware, da ist ein grosser Unterschied an die Ressourcenansprüche.

Also nochmals, das kann nicht sein, da ist in deinen System was oberfaul, ich spiele bis zu 4 Spuren AVCHD gleichzeit ab, eine Spur mit Effekten, kein Problem.
Wie sieht es mit deiner Festplatte aus, genug Schreibgeschwindigkeit, stell einmal den Virenscanner bei der Bearbeitung ab, auch das bringt Leistung.
Sollte dies nicht besser werden gehört dein System ausgelesen, melde dich beim Support, der sieht dann auch die Treiber, es könnte auch am Chipsettreiber liegen, aber nicht vor auslesen.
e-klar.