[前][次][番号順一覧][スレッド一覧]

mysql:14893

From: "Kaname Kuji\(Y7\)" <"Kaname Kuji\(Y7\)" <kkuji@xxxxxxxxxx>>
Date: Fri, 5 Jun 2009 12:44:53 +0900
Subject: [mysql 14893] Re: バッチ処理のUPDATEでmysqld got signal 11が発生する 【再発】他に類似事象?有り

KK@IB です。

この処理に、インデックスは不要なように見えますね。
DBすらいらない。シークエンシャルファイルをCOBOLで
バッチ処理、みたいな感じの処理ですね。

インデックスをとったテーブルでやってみたらいかがでしょうか?


----- Original Message ----- 
From: ""浅山雄三"" <ALCYONE@xxxxxxxxxx>
To: <ml@xxxxxxxxxx>
Sent: Friday, June 05, 2009 12:16 PM
Subject: [mysql 14892] Re: バッチ処理のUPDATEでmysqld got signal 11が発生する 
 【再発】他に類似事象?有り


>  浅山です。いつもお世話になります。
>
>  下記のような処理をしています。
>
> (1)Aテーブルを順に読み出し、レコード毎に全VARCHARフィールドとTEXT
> フィールドの値を連結し、それをBテーブルのXフィールドにINSERT。件数は
> 約20万件。
>
> (2)上記(1)を全件処理した後、BテーブルのXフィールドを順に読み出し、
> Ngramデータを生成。そのデータをYフィールド(LONG TEXT属性)に
> UPDATE。UPDATEは1件当たり十キロバイト〜数十キロバイト。
>
>
>  UPDATEのSQL文は、
>
> update Bテーブル
> set Yフィールド = '〜〜Ngramデータ〜〜'
> where PRI_KEY = PRI_KEY_DATA
>
> です。
>
>  類似事象にもあるように、FULL TEXT INDEXが絡んでいるかと・・・。
>
>
>
>
> In message "[mysql 14891] Re: バッチ処理のUPDATEでmysqld got signal
> 11が発生する  【再発】他に類似事象?有り",
> Kaname Kuji(Y7)様wrote...
> >KK@IB です。
> >
> >実行環境の性能ももう少し知りたいところですが
> >補助のテーブルや処理を使って、
> >複数処理に分けるとか、SQLやINDEXの見直しが
> >貢献する状況のように感じられます。
> >
> >ロールバックが必要なのですね?
> >処理をexplainにかけるとどこが総なめ処理になっているかなどが
> >わかるかと思いますが、いかがでしょうか。
> >
> >----- Original Message ----- 
> >From: ""浅山雄三"" <ALCYONE@xxxxxxxxxx>
> >To: <ml@xxxxxxxxxx>
> >Sent: Friday, June 05, 2009 10:49 AM
> >Subject: [mysql 14890] Re: バッチ処理のUPDATEでmysqld got signal
> 11が発生する
> > 【再発】他に類似事象?有り
> >
> >
> >>  浅山です。いつもお世話になります。
> >>
> >>  その後メモリ量をどんどん減らしていっても発生してしまいます。
> >>
> >>  環境は少し違いますが類似事象を下記URLで見つけました。
> >> 【URL】
> >> http://sourceforge.jp/projects/senna/lists/archive/dev/2005-August/000117.html
> >> (DELETEでもUPDATEでもダメ)
> >>
> >>  上記はバージョン4.1ですがこのバグが改修されていないとか、5.1.32
> で
> >> Bug#42634に対処したけど実はちゃんと改修されていない?というよう
> なこ
> >> とはないでしょうか。
> >>
> >>
> >>
> >>
> >> In message "[mysql 14889] Re: バッチ処理のUPDATEでmysqld got
> signal
> >> 11が発生する  【再発】",
> >> 浅山雄三様wrote...
> >> >  浅山です。いつもお世話になります。
> >> >
> >> >  一旦は解決したと思ったんですが、また発生してしまいました。
> >> >  メモリ使用量を減らす方向で考えていますが、それ以外に何か手立
> てが
> >> あ
> >> >りましたら教えてください。
> >> >
> >> >
> >> >【エラー・ログ】
> >> >090528  6:46:26 - mysqld got signal 11 ;
> >> >This could be because you hit a bug. It is also possible that
> this
> >> >binary
> >> >or one of the libraries it was linked against is corrupt,
> >> improperly
> >> >built,
> >> >or misconfigured. This error can also be caused by
> malfunctioning
> >> >hardware.
> >> >We will try our best to scrape up some info that will hopefully
> >> help
> >> >diagnose
> >> >the problem, but since we have already crashed, something is
> >> >definitely wrong
> >> >and this may fail.
> >> >
> >> >key_buffer_size=536870912
> >> >read_buffer_size=2097152
> >> >max_used_connections=27
> >> >max_threads=200
> >> >threads_connected=2
> >> >It is possible that mysqld could use up to
> >> >key_buffer_size + (read_buffer_size + sort_buffer_size)
> >> *max_threads =
> >> >1344758 K
> >> >bytes of memory
> >> >Hope that's ok; if not, decrease some variables in the
> equation.
> >> >
> >> >thd: 0x7ec0c220
> >> >Attempting backtrace. You can use the following information to
> >> find
> >> >out
> >> >where mysqld died. If you see no messages after this, something
> >> went
> >> >terribly wrong...
> >> >stack_bottom = 0x804563b8 thread_stack 0x30000
> >> >Trying to get some variables.
> >> >Some pointers may be invalid and cause the dump to abort...
> >> >thd->query at 0x7eb7f2c0 is an invalid pointer
> >> >thd->thread_id=723
> >> >thd->killed=NOT_KILLED
> >> >The manual page at http://dev.mysql.com/doc/mysql/en/crashing.html
> >> >contains
> >> >information that should help you find out what is causing the
> >> crash.
> >> >090528 06:46:26 mysqld_safe Number of processes running now: 0
> >> >090528 06:46:26 mysqld_safe mysqld restarted
> >> >InnoDB: The log sequence number in ibdata files does not match
> >> >InnoDB: the log sequence number in the ib_logfiles!
> >> >090528  6:46:28  InnoDB: Database was not shut down normally!
> >> >InnoDB: Starting crash recovery.
> >> >InnoDB: Reading tablespace information from the .ibd files...
> >> >InnoDB: Restoring possible half-written data pages from the
> >> >doublewrite
> >> >InnoDB: buffer...
> >> >090528  6:46:29  InnoDB: Started; log sequence number 0
> 468460087
> >> >090528  6:46:29 [Note] Event Scheduler: Loaded 0 events
> >> >090528  6:46:29 [Note] /opac/pp/mysql/bin/bin/mysqld: ready for
> >> >connections.
> >> >Version: '5.1.32'  socket: '/tmp/mysql.sock'  port: 3306  MySQL
> >> >Community Server (GPL)
> >> >
> >> >
> >> >In message "[mysql 14888] Re: バッチ処理のUPDATEでmysqld got
> >> signal
> >> >11が発生する",
> >> >浅山雄三様wrote...
> >> > >  浅山です。いつもお世話になります。
> >> > >
> >> > > >key_buffer_size=2147483648 ←2GB
> >> > > >
> >> > > >このkey_buffer_sizeを1.5GBあるいは1GBくらいに減らして
> >> > > >見てはどうでしょう。
> >> > >
> >> > >  512MBにしてみたところ、SIGNAL11は発生しませんでした。
> >> > >
> >> > >  ということで解決しました。皆様ありがとうございました。
> >> > >
> >> > >(※バッチを何本もはしらせたので返事がおそくなってしまいまし
> >> た。)
> >> > >
> >> > >
> >> > > 2009年5月27日 09:19:43 (^o^)浅山雄三
> >> > >
> >> > >
> >> > >
> >> > >
> >> > >
> >> >
> >> >
> >> > 2009年5月28日 12:46:16 (^o^)浅山雄三
> >> >
> >> >
> >> >
> >> >
> >> >
> >>
> >>
> >> 2009年6月5日 10:37:42 (^o^)浅山雄三
> >>
> >>
> >>
> >>
> >> __________  ESET NOD32 Antivirus からの情報, ウイルス定義データ
> ベースのバージョン 4132 (20090604) __________
> >>
> >> このメッセージは ESET NOD32 Antivirus によって検査済みです。
> >>
> >> http://canon-its.jp
> >>
> >>
> >>
> >
> >
> >
> >
> >
>
>
> 2009年6月5日 11:57:45 (^o^)浅山雄三
>
>
>
>
> __________  ESET NOD32 Antivirus からの情報, ウイルス定義データベースのバージョン 4132 (20090604) __________
>
> このメッセージは ESET NOD32 Antivirus によって検査済みです。
>
> http://canon-its.jp
>
>
> 


[前][次][番号順一覧][スレッド一覧]

     14884 2009-05-26 17:16 [<ALCYONE@xxxxxxxxxx>] バッチ処理のUPDATEでmysqld got signal  11が発生する
     14885 2009-05-26 17:32 ┣[Katsutoshi Nakatomi ]                                       
     14886 2009-05-26 18:51 ┗[Tetsuro IKEDA <ikdtt]                                       
     14888 2009-05-27 09:24  ┗[<ALCYONE@xxxxxxxxxx>]                                     
     14889 2009-05-28 12:52   ┗[<ALCYONE@xxxxxxxxxx>] Re: バッチ処理のUPDATEでmysqld got signal  11が発生する  【再発】
     14890 2009-06-05 10:49    ┗[<ALCYONE@xxxxxxxxxx>] Re: バッチ処理のUPDATEでmysqld got signal  11が発生する  【再発】他に類似事象?有り
     14891 2009-06-05 11:39     ┗["Kaname Kuji\(Y7\)" ]                               
     14892 2009-06-05 12:16      ┗[<ALCYONE@xxxxxxxxxx>]                             
->   14893 2009-06-05 12:44       ┗["Kaname Kuji\(Y7\)" ]                           
     14894 2009-06-05 12:53        ┗[<ALCYONE@xxxxxxxxxx>]                         
     14895 2009-06-05 14:44         ┗["Kaname Kuji\(Y7\)" ]                       
     14913 2009-06-10 12:57          ┗[<ALCYONE@xxxxxxxxxx>]