Mencoder crashes, PMS not working at all

[eruarg]

Hello.

This is a problem I've had for a very long time now.


CPU: Intel E8500 @ 3.16 GHz
RAM: 4 GB
GFX: Nvidia 8600 GT
Gigabit network (Cat 6 cables from PC to switch to PS3) Using a random 3com Gigabit switch and using Linksys wrt54gl with tomato firmware, as router.
Device: PS3
Engine: Mencoder
OS: Tested Windows Vista x64, Windows 7 x64 and tried compability mode with Win XP
Using PMS version 1.10.51

Problem

Even though I've tested it on both Win Vista and Win 7, the same problem occurs. While playing ANY HD movie (.mkv) mencoder_mt.exe will crash multiple (I have to restart in between) times and will most likley resulting in me throwing something out through the window. When mencoder_mt.exe crashes, the buffer will slowly run out and when it's empty the movie pauses and I have to restart it from the beginning. Transcoding Xvid files with mencoder is no problem at all, this is only affecting my HD movies. I've set the PS3 to 1080p video output and my TV is a Sony KDLW5500

Some Mediainfo from files that have caused mencoder to crash:

Code: Select all

General
Complete name                    : W:\Man.on.Fire.2004.1080p.BluRay.DTS.x264-CtrlHD.mkv
Format                           : Matroska
File size                        : 14.0 GiB
Duration                         : 2h 26mn
Overall bit rate                 : 13.7 Mbps
Encoded date                     : UTC 2008-04-03 17:02:56
Writing application              : mkvmerge v2.1.0 ('Another Place To Fall') built on Aug 19 2007 13:40:07
Writing library                  : libebml v0.7.7 + libmatroska v0.8.1

Video
ID                               : 1
Format                           : AVC
Format/Info                      : Advanced Video Codec
Format profile                   : High@L4.1
Format settings, CABAC           : Yes
Format settings, ReFrames        : 5 frames
Muxing mode                      : Container profile=Unknown@4.1
Codec ID                         : V_MPEG4/ISO/AVC
Duration                         : 2h 26mn
Bit rate                         : 11.9 Mbps
Nominal bit rate                 : 12.2 Mbps
Width                            : 1 920 pixels
Height                           : 804 pixels
Display aspect ratio             : 2.35:1
Frame rate                       : 23.976 fps
Resolution                       : 24 bits
Colorimetry                      : 4:2:0
Scan type                        : Progressive
Bits/(Pixel*Frame)               : 0.323
Stream size                      : 12.2 GiB (87%)
Title                            : x264 - 1080p - 12mbit/s
Writing library                  : x264 core 58 r798M 17e5dac
Encoding settings                : cabac=1 / ref=5 / deblock=1:-3:-3 / analyse=0x3:0x133 / me=umh / subme=6 / me-prepass=0 / brdo=1 / mixed_ref=1 / me_range=24 / chroma_me=1 / trellis=0 / 8x8dct=1 / cqm=2 / deadzone=6,4 / chroma_qp_offset=0 / threads=3 / nr=0 / decimate=1 / mbaff=0 / bframes=3 / b_pyramid=1 / b_adapt=1 / b_bias=0 / direct=3 / wpredb=1 / bime=1 / keyint=250 / keyint_min=25 / scenecut=40(pre) / rc=2pass / bitrate=12214 / ratetol=1.0 / rceq='blurCplx^(1-qComp)' / qcomp=0.60 / qpmin=10 / qpmax=51 / qpstep=4 / cplxblur=20.0 / qblur=0.5 / ip_ratio=1.40 / pb_ratio=1.30 / aq=1:0.6:12.0
Language                         : English

Audio
ID                               : 2
Format                           : DTS
Format/Info                      : Digital Theater Systems
Codec ID                         : A_DTS
Duration                         : 2h 26mn
Bit rate mode                    : Constant
Bit rate                         : 1 510 Kbps
Channel(s)                       : 6 channels
Channel positions                : Front: L C R, Surround: L R, LFE
Sampling rate                    : 48.0 KHz
Resolution                       : 24 bits
Stream size                      : 1.54 GiB (11%)

Text #1
ID                               : 3
Format                           : ASS
Codec ID                         : S_TEXT/ASS
Codec ID/Info                    : Advanced Sub Station Alpha
Language                         : English

Text #2
ID                               : 4
Format                           : ASS
Codec ID                         : S_TEXT/ASS
Codec ID/Info                    : Advanced Sub Station Alpha
Title                            : SDH
Language                         : English

Text #3
ID                               : 5
Format                           : ASS
Codec ID                         : S_TEXT/ASS
Codec ID/Info                    : Advanced Sub Station Alpha
Language                         : Dutch

Text #4
ID                               : 6
Format                           : ASS
Codec ID                         : S_TEXT/ASS
Codec ID/Info                    : Advanced Sub Station Alpha
Language                         : Finnish

Text #5
ID                               : 7
Format                           : ASS
Codec ID                         : S_TEXT/ASS
Codec ID/Info                    : Advanced Sub Station Alpha
Language                         : French

Text #6
ID                               : 8
Format                           : ASS
Codec ID                         : S_TEXT/ASS
Codec ID/Info                    : Advanced Sub Station Alpha
Language                         : Norwegian

Text #7
ID                               : 9
Format                           : ASS
Codec ID                         : S_TEXT/ASS
Codec ID/Info                    : Advanced Sub Station Alpha
Language                         : Spanish

Text #8
ID                               : 10
Format                           : ASS
Codec ID                         : S_TEXT/ASS
Codec ID/Info                    : Advanced Sub Station Alpha
Language                         : Swedish

Code: Select all

General
Complete name                    : W:\Pirates.of.the.Caribbean.II.2006.BluRay.DTS.x264.dxva-EuReKA.mkv
Format                           : Matroska
File size                        : 11.0 GiB
Duration                         : 2h 30mn
Overall bit rate                 : 10.5 Mbps
Encoded date                     : UTC 2009-03-01 15:04:32
Writing application              : mkvmerge v2.4.2 ('Oh My God') built on Jan 18 2009 17:30:28
Writing library                  : libebml v0.7.7 + libmatroska v0.8.1

Video
ID                               : 1
Format                           : AVC
Format/Info                      : Advanced Video Codec
Format profile                   : High@L4.1
Format settings, CABAC           : Yes
Format settings, ReFrames        : 4 frames
Muxing mode                      : Container profile=Unknown@4.1
Codec ID                         : V_MPEG4/ISO/AVC
Duration                         : 2h 30mn
Bit rate                         : 8 752 Kbps
Width                            : 1 920 pixels
Height                           : 802 pixels
Display aspect ratio             : 2.35:1
Frame rate                       : 23.976 fps
Resolution                       : 24 bits
Colorimetry                      : 4:2:0
Scan type                        : Progressive
Bits/(Pixel*Frame)               : 0.237
Stream size                      : 9.20 GiB (84%)
Title                            : x264 - crf encode
Writing library                  : x264 core 66 r1114M a933a3e
Encoding settings                : cabac=1 / ref=4 / deblock=1:-2:-2 / analyse=0x3:0x113 / me=umh / subme=7 / psy_rd=1.1:0.0 / mixed_ref=1 / me_range=24 / chroma_me=1 / trellis=2 / 8x8dct=1 / cqm=0 / deadzone=21,11 / chroma_qp_offset=-2 / threads=6 / nr=0 / decimate=0 / mbaff=0 / bframes=3 / b_pyramid=0 / b_adapt=1 / b_bias=0 / direct=3 / wpredb=1 / keyint=250 / keyint_min=25 / scenecut=40(pre) / rc=crf / crf=21.0 / qcomp=0.60 / qpmin=10 / qpmax=51 / qpstep=4 / vbv_maxrate=38000 / vbv_bufsize=30000 / ip_ratio=1.40 / pb_ratio=1.30 / aq=1:1.00
Language                         : English

Audio
ID                               : 2
Format                           : DTS
Format/Info                      : Digital Theater Systems
Codec ID                         : A_DTS
Duration                         : 2h 30mn
Bit rate mode                    : Constant
Bit rate                         : 1 510 Kbps
Channel(s)                       : 6 channels
Channel positions                : Front: L C R, Surround: L R, LFE
Sampling rate                    : 48.0 KHz
Resolution                       : 24 bits
Stream size                      : 1.59 GiB (14%)
Title                            : DTS - 1536 kbit/sec
Language                         : English

Text #1
ID                               : 3
Format                           : UTF-8
Codec ID                         : S_TEXT/UTF8
Codec ID/Info                    : UTF-8 Plain Text
Language                         : Dutch

Text #2
ID                               : 4
Format                           : UTF-8
Codec ID                         : S_TEXT/UTF8
Codec ID/Info                    : UTF-8 Plain Text
Language                         : English

Menu
00:00:00.000                     : en:00:00:00.000
00:04:18.925                     : en:00:04:18.925
00:09:53.009                     : en:00:09:53.009
00:12:13.441                     : en:00:12:13.441
00:19:09.065                     : en:00:19:09.065
00:23:53.474                     : en:00:23:53.474
00:30:15.480                     : en:00:30:15.480
00:35:29.419                     : en:00:35:29.419
00:40:32.930                     : en:00:40:32.930
00:46:28.035                     : en:00:46:28.035
00:50:25.564                     : en:00:50:25.564
00:56:18.625                     : en:00:56:18.625
00:59:52.380                     : en:00:59:52.380
01:05:45.191                     : en:01:05:45.191
01:11:55.853                     : en:01:11:55.853
01:17:04.328                     : en:01:17:04.328
01:22:10.259                     : en:01:22:10.259
01:30:36.639                     : en:01:30:36.639
01:34:38.172                     : en:01:34:38.172
01:39:21.831                     : en:01:39:21.831
01:44:52.411                     : en:01:44:52.411
01:49:14.715                     : en:01:49:14.715
01:54:55.805                     : en:01:54:55.805
01:59:36.044                     : en:01:59:36.044
02:04:59.909                     : en:02:04:59.909
02:10:27.194                     : en:02:10:27.194
02:16:20.631                     : en:02:16:20.631
02:21:04.789                     : en:02:21:04.789
02:30:39.030                     : en:02:30:39.030

Code: Select all

General
Complete name                    : W:\The.Lord.Of.The.Rings.The.Return.Of.The.King.2003.1080p.x264-THOR.mkv
Format                           : Matroska
File size                        : 7.95 GiB
Duration                         : 3h 12mn
Overall bit rate                 : 5 902 Kbps
Encoded date                     : UTC 2006-07-30 22:35:14
Writing application              : mkvmerge v1.7.0 ('What Do You Take Me For') built on Apr 28 2006 17:20:19
Writing library                  : libebml v0.7.7 + libmatroska v0.8.0

Video
ID                               : 1
Format                           : AVC
Format/Info                      : Advanced Video Codec
Format profile                   : High@L5.1
Format settings, CABAC           : Yes
Format settings, ReFrames        : 16 frames
Muxing mode                      : Container profile=Unknown@5.1
Codec ID                         : V_MPEG4/ISO/AVC
Duration                         : 3h 12mn
Bit rate                         : 5 401 Kbps
Nominal bit rate                 : 5 507 Kbps
Width                            : 1 920 pixels
Height                           : 784 pixels
Display aspect ratio             : 2.40:1
Frame rate                       : 25.000 fps
Resolution                       : 24 bits
Colorimetry                      : 4:2:0
Scan type                        : Progressive
Bits/(Pixel*Frame)               : 0.144
Stream size                      : 7.27 GiB (92%)
Writing library                  : x264 core 48 svn-537M
Encoding settings                : cabac=1 / ref=16 / deblock=1:-2:-1 / analyse=0x3:0x133 / me=umh / subme=6 / brdo=1 / mixed_ref=1 / me_range=16 / chroma_me=1 / trellis=2 / 8x8dct=1 / cqm=0 / chroma_qp_offset=0 / slices=2 / nr=0 / decimate=0 / bframes=3 / b_pyramid=1 / b_adapt=1 / b_bias=0 / direct=3 / wpredb=1 / bime=1 / keyint=250 / keyint_min=25 / scenecut=40 / rc=2pass / bitrate=5507 / ratetol=1.0 / rceq='blurCplx^(1-qComp)' / qcomp=0.60 / qpmin=10 / qpmax=51 / qpstep=4 / cplxblur=20.0 / qblur=0.5 / ip_ratio=1.40 / pb_ratio=1.30
Language                         : English

Audio
ID                               : 2
Format                           : AC-3
Format/Info                      : Audio Coding 3
Codec ID                         : A_AC3
Duration                         : 3h 12mn
Bit rate mode                    : Constant
Bit rate                         : 384 Kbps
Channel(s)                       : 6 channels
Channel positions                : Front: L C R, Surround: L R, LFE
Sampling rate                    : 48.0 KHz
Stream size                      : 529 MiB (7%)
Language                         : English

Text #1
ID                               : 3
Format                           : VobSub
Codec ID                         : S_VOBSUB
Codec ID/Info                    : The same subtitle format used on DVDs
Language                         : English

Text #2
ID                               : 4
Format                           : VobSub
Codec ID                         : S_VOBSUB
Codec ID/Info                    : The same subtitle format used on DVDs
Language                         : Danish

Text #3
ID                               : 5
Format                           : VobSub
Codec ID                         : S_VOBSUB
Codec ID/Info                    : The same subtitle format used on DVDs
Language                         : Swedish

Text #4
ID                               : 6
Format                           : VobSub
Codec ID                         : S_VOBSUB
Codec ID/Info                    : The same subtitle format used on DVDs
Language                         : Norwegian

Text #5
ID                               : 7
Format                           : VobSub
Codec ID                         : S_VOBSUB
Codec ID/Info                    : The same subtitle format used on DVDs
Language                         : Finnish

Text #6
ID                               : 8
Format                           : VobSub
Codec ID                         : S_VOBSUB
Codec ID/Info                    : The same subtitle format used on DVDs
Language                         : Icelandic

Code: Select all

General
Complete name                    : W:\Quantum of Solace - 1080p (2009).mkv
Format                           : Matroska
File size                        : 8.75 GiB
Duration                         : 1h 46mn
Overall bit rate                 : 11.8 Mbps
Encoded date                     : UTC 2009-03-11 07:02:03
Writing application              : mkvmerge v2.5.1 ('He Wasn't There') built on Feb 22 2009 18:19:47
Writing library                  : libebml v0.7.7 + libmatroska v0.8.1

Video
ID                               : 1
Format                           : AVC
Format/Info                      : Advanced Video Codec
Format profile                   : High@L4.1
Format settings, CABAC           : Yes
Format settings, ReFrames        : 5 frames
Muxing mode                      : Container profile=Unknown@4.1
Codec ID                         : V_MPEG4/ISO/AVC
Duration                         : 1h 46mn
Bit rate                         : 10.0 Mbps
Nominal bit rate                 : 10.3 Mbps
Width                            : 1 920 pixels
Height                           : 800 pixels
Display aspect ratio             : 2.40:1
Frame rate                       : 23.976 fps
Resolution                       : 24 bits
Colorimetry                      : 4:2:0
Scan type                        : Progressive
Bits/(Pixel*Frame)               : 0.273
Stream size                      : 7.45 GiB (85%)
Writing library                  : x264 core 67 r1127 8d82fec
Encoding settings                : cabac=1 / ref=5 / deblock=1:0:0 / analyse=0x3:0x113 / me=umh / subme=7 / psy_rd=1.0:0.0 / mixed_ref=1 / me_range=16 / chroma_me=1 / trellis=1 / 8x8dct=1 / cqm=0 / deadzone=21,11 / chroma_qp_offset=-2 / threads=6 / nr=0 / decimate=1 / mbaff=0 / bframes=3 / b_pyramid=1 / b_adapt=1 / b_bias=0 / direct=3 / wpredb=1 / keyint=250 / keyint_min=25 / scenecut=40 / rc=2pass / bitrate=10278 / ratetol=1.0 / qcomp=0.60 / qpmin=10 / qpmax=51 / qpstep=4 / cplxblur=20.0 / qblur=0.5 / ip_ratio=1.40 / pb_ratio=1.30 / aq=1:1.00
Language                         : English

Audio
ID                               : 2
Format                           : DTS
Format/Info                      : Digital Theater Systems
Codec ID                         : A_DTS
Duration                         : 1h 46mn
Bit rate mode                    : Constant
Bit rate                         : 1 510 Kbps
Channel(s)                       : 6 channels
Channel positions                : Front: L C R, Surround: L R, LFE
Sampling rate                    : 48.0 KHz
Resolution                       : 24 bits
Stream size                      : 1.12 GiB (13%)
Language                         : English

Text
ID                               : 3
Format                           : UTF-8
Codec ID                         : S_TEXT/UTF8
Codec ID/Info                    : UTF-8 Plain Text
Language                         : English

Menu
00:00:00.000                     : en:00:00:00.000
00:04:10.125                     : en:00:04:10.125
00:07:27.530                     : en:00:07:27.530
00:10:20.537                     : en:00:10:20.537
00:15:16.833                     : en:00:15:16.833
00:17:47.650                     : en:00:17:47.650
00:20:24.306                     : en:00:20:24.306
00:22:51.370                     : en:00:22:51.370
00:26:28.420                     : en:00:26:28.420
00:29:06.370                     : en:00:29:06.370
00:33:16.912                     : en:00:33:16.912
00:35:48.104                     : en:00:35:48.104
00:39:02.131                     : en:00:39:02.131
00:44:19.156                     : en:00:44:19.156
00:47:21.797                     : en:00:47:21.797
00:52:30.898                     : en:00:52:30.898
00:56:29.011                     : en:00:56:29.011
01:01:17.173                     : en:01:01:17.173
01:04:51.012                     : en:01:04:51.012
01:11:04.802                     : en:01:11:04.802
01:12:34.433                     : en:01:12:34.433
01:17:16.423                     : en:01:17:16.423
01:21:05.694                     : en:01:21:05.694
01:24:17.719                     : en:01:24:17.719
01:29:19.938                     : en:01:29:19.938
01:36:15.520                     : en:01:36:15.520
01:37:59.248                     : en:01:37:59.248
01:41:39.135                     : en:01:41:39.135
01:46:14.118                     : en:01:46:14.118

Any help is appreciated. The Debug file included is from an attempt with running PMS in compability mode for Win XP.

[shagrath]

crashes are likely due to some incompatibilities with something in your computer... maybe you can try this another build: http://ps3mediaserver.googlecode.com/sv ... der_mt.exe

or this one (not tested): http://kovensky.project357.com/ (rename mencoder.exe to mencoder_mt.exe)

[eruarg]

crashes are likely due to some incompatibilities with something in your computer... maybe you can try this another build: http://ps3mediaserver.googlecode.com/sv ... der_mt.exe

or this one (not tested): http://kovensky.project357.com/ (rename mencoder.exe to mencoder_mt.exe)

Thanks for a quick answer! I'm happy to inform you that the first link you provided seems to have solved the problem. I've been able to play one 1080p movie successfully without any problems (I'm unaware of stuttering, since I wasn't at home when I tested). Thanks alot, now let's pray that this is a permanent solution

[JWIERSEM]

Yes, using that version of mencoder also solved this problem for me, thanks a lot!!

[JWIERSEM]

Sadly using a different version of mencoder did not solve all my problems. There are still videos that do not work at all or that skip etc. When trying to use AViSynth/FFMpeg i noticed ffmpeg crashing on my server. Using the version of ffmpeg in the trunk of PMS didn't solve this. I've also tried the latest version from the mencoder website.

Can anyone give any advice on which versions of all encoder/transcoders are the most stable?

I'm using Win7 with K-lite codec pack installed as well as CoreAVC. The videos that don't work are not mkv though, just avi's.

[JWIERSEM]

I'm thinking now it could be the new version of java I'm using (7). I needed to update it when switching to version 1.52 of PMS. It has a terrible perfomance on my laptop, maxing out my processor.

When I use the no-encoding entry in the #TRANSCODING# folder, the video normally plays fine. However I don't get any subtitles. Does anyone know how to use no-encoding with the subtitles?

[taconaut]

Does anyone know how to use no-encoding with the subtitles?

This is not possible. Subtitles are being added to the video when transcoding

[JWIERSEM]

I think I fixed it! I tried some options already given on the forum:
- Set maximum bandwidth in General Configuration on 110Mbs
- Started PMS through PMS.bat with increased heap size (896 works for me).

PMS stays responsive now while yesterday it was almost completely unresponsive while playing the same files, and they dont freeze or skip anymore.

Perhaps the need for more memory was introduced because I started to use a lot of plugins in PMS. I've read on the forum this could introduce memory issues, so if some one is having the same problem you could try reducing the amount of plugins.